本文へスキップ
原文
量子位· 鹭羽·· 20 日前厳選AI スコア72

蚂蚁百灵开源 Ling-3.1-flash 模型

这个双十一,百灵新模型干起活来不烧心

未翻訳のため中国語で表示しています。

AI ガイド

蚂蚁百灵开源推出 Ling-3.1-flash 模型,主打面向复杂真实业务流的高智效比。该模型采用 560B 总参数、每 Token 激活约 25B 的稀疏 MoE 架构,并以线性 Attention 配合 Gated MLA 支持最高 1M 上下文窗口。通过混合精度量化,其权重占用从约 534GB 降至 292GB,对应 Hopper 部署环境由 8 卡降至 4 卡。

推薦理由

模型采用混合线性注意力加稀疏MoE架构并支持1M上下文,展示了兼顾长序列推理与降低计算开销的具体工程方案。

出典:量子位 · qbitai.com