跳到正文
原文
量子位· 鹭羽·· 22 小时前精选AI 评分72

蚂蚁百灵开源 Ling-3.1-flash 模型

这个双十一,百灵新模型干起活来不烧心

AI 导读

蚂蚁百灵开源推出 Ling-3.1-flash 模型,主打面向复杂真实业务流的高智效比。该模型采用 560B 总参数、每 Token 激活约 25B 的稀疏 MoE 架构,并以线性 Attention 配合 Gated MLA 支持最高 1M 上下文窗口。通过混合精度量化,其权重占用从约 534GB 降至 292GB,对应 Hopper 部署环境由 8 卡降至 4 卡。

推荐理由

模型采用混合线性注意力加稀疏MoE架构并支持1M上下文,展示了兼顾长序列推理与降低计算开销的具体工程方案。

来源:量子位 · qbitai.com