量子位· 鹭羽·· 22 小时前精选AI 评分72
蚂蚁百灵开源 Ling-3.1-flash 模型
这个双十一,百灵新模型干起活来不烧心
AI 导读
蚂蚁百灵开源推出 Ling-3.1-flash 模型,主打面向复杂真实业务流的高智效比。该模型采用 560B 总参数、每 Token 激活约 25B 的稀疏 MoE 架构,并以线性 Attention 配合 Gated MLA 支持最高 1M 上下文窗口。通过混合精度量化,其权重占用从约 534GB 降至 292GB,对应 Hopper 部署环境由 8 卡降至 4 卡。
推荐理由
模型采用混合线性注意力加稀疏MoE架构并支持1M上下文,展示了兼顾长序列推理与降低计算开销的具体工程方案。
来源:量子位 · qbitai.com