IT之家 · AI 筛选·· 3 小时前精选AI 评分77
英伟达发布 1200 亿参数多模态模型 Nemotron 3.5 Super VL 及 Bolt 端侧模型
英伟达发布 1200 亿参数大模型 Nemotron 3.5 Super VL:单 GPU 智能体任务吞吐量最高提升 5 倍,74B 版本压缩至 24GB
AI 导读
英伟达推出开放多模态模型 Nemotron 3.5 Super VL,采用 120B 总参数、12B 激活参数的 MoE 架构,单 GPU 智能体任务吞吐量最高达同规模开放模型的 5 倍。
推荐理由
原文给出了 MoE 架构参数、量化部署指标与端侧模型规格,读者可以据此评估本地智能体与多模态任务的推理部署成本。
来源:IT之家 · AI 筛选 · ithome.com