跳到正文
原文
IT之家 · AI 筛选·· 3 小时前精选AI 评分77

英伟达发布 1200 亿参数多模态模型 Nemotron 3.5 Super VL 及 Bolt 端侧模型

英伟达发布 1200 亿参数大模型 Nemotron 3.5 Super VL:单 GPU 智能体任务吞吐量最高提升 5 倍,74B 版本压缩至 24GB

AI 导读

英伟达推出开放多模态模型 Nemotron 3.5 Super VL,采用 120B 总参数、12B 激活参数的 MoE 架构,单 GPU 智能体任务吞吐量最高达同规模开放模型的 5 倍。

推荐理由

原文给出了 MoE 架构参数、量化部署指标与端侧模型规格,读者可以据此评估本地智能体与多模态任务的推理部署成本。

来源:IT之家 · AI 筛选 · ithome.com