vLLM 宣布首发支持开源 MoE 模型 Muse Spark Open中国語
vLLM 联合 Meta 推出对开源 MoE 模型 Muse Spark Open 的首发支持,全面适配 816B 总参数、42B 激活参数与 1M 上下文窗口。
推薦理由:原文详细拆解了 816B 稀疏架构的缓存缩减机制与跨芯片部署方案,为开发者评估超长上下文及多硬件投机解码提供了直接参考。
文本之外的能力:视觉理解、图文混合、音视频输入输出的模型与产品进展。
vLLM 联合 Meta 推出对开源 MoE 模型 Muse Spark Open 的首发支持,全面适配 816B 总参数、42B 激活参数与 1M 上下文窗口。
推薦理由:原文详细拆解了 816B 稀疏架构的缓存缩减机制与跨芯片部署方案,为开发者评估超长上下文及多硬件投机解码提供了直接参考。
Amazon SageMaker JumpStart 现已上线 Meta 针对代码与智能体工作流优化的开源权重模型 Muse Spark Open,支持在自有 AWS 账户内快速部署。
推薦理由:文章梳理了在 SageMaker AI 部署该 816B 混合专家模型的算力配置与调用流程,方便开发者评估长上下文代码智能体的私有化托管方案。
Meta 正式发布 816B 参数的原生多模态模型 Muse Spark Open,并联合 Apple 优化其在 Mac 桌面端的运行性能。该模型针对长程任务、复杂软件工程和多步推理进行优化,借助 Apple 最新的 MLX 框架,可在两台 Apple M5 Ultra Mac Studio 组成的桌面环境下完成本地运行。
推薦理由:原文展示了超大参数开源模型与 Apple MLX 框架的适配细节,读者可据此评估在桌面端硬件部署大模型的落地可行性。
Meta 宣布开源多模态模型 Muse Spark Open 权重,总参数量达 816B(42B 激活),具备 1M token 上下文窗口并主打代码与长程任务。
推薦理由:原文给出了超大参数模型的激活比例与双机运行配置,读者可以据此评估在桌面端本地部署 Agent 的硬件门槛。
Meta 推出开源权重模型 Muse Spark Open,拥有 816B 参数(42B 激活)并支持 1M tokens 上下文及图文音视频多模态输入。该模型专为编码与 AI 智能体任务构建,权重已上线 Hugging Face,在智能体与多模态基准上领先 Qwen 3.8、GLM 5.3 和 Kimi K3,但在部分编码评测中落后。
推薦理由:原文给出了具体参数、基准对比与本地运行硬件门槛,读者可据此评估其在开源多模态与智能体任务中的实用价值。
Meta 推出开源多模态 MoE 架构模型 Muse Spark Open,总参数约 816B,单 token 激活约 42B,上下文窗口支持最高 100 万 tokens。
推薦理由:Meta 开源了 816B 参数的多模态 MoE 模型 Muse Spark Open,为结合图文音视频输入的高阶代码智能体提供了超长上下文选项。
Google 推出具身智能模型 Gemini 4 Argon,主打使用单一模型覆盖机器人控制、虚拟仿真生成以及训练视频质检全流程。在无外置工具的 ERQA 空间推理测试中该模型取得 87% 得分,但在真实的 AA-Robotics 机器人臂控制测试中以 55 分位列第三,且实际部署仍依赖提示词中的细致约束。
推薦理由:原文对比了该模型在空间推理基准与实体臂控制测试上的差异,有助于客观评估端到端机器人大模型的真实落地现状。
Liquid AI 发布多模态决策模型 d1-ultra,支持在单次前向传播中同时读取文本与图像并直接输出概率,无需生成任何输出 token。模型在 112 项评测中超越 Jev 1.14,并在 Artificial Analysis Decision Index 上领先竞品至少 8 分。
推薦理由:该模型采用单次前向传播直接输出概率而非生成文本,为工业质检与核保审核等分类任务提供了极低推理成本的新选择。
NVIDIA 正式发布专为企业智能体打造的开源多模态模型 Nemotron 3.5 Super VL,采用 MoE 架构,总参数量 120B 且每 token 仅激活 12B。
推薦理由:采用MoE架构在保持轻量激活的同时提升吞吐,为企业在自建算力上低成本部署全天候智能体提供了开源方案。
Microsoft AI 宣布完成新一代基座模型 MAI-Base-2 的预训练,该模型为 80B 激活、2.8T 总参数的 MoE 架构,并原生集成了视觉多模态能力。
推薦理由:文章系统披露了万亿级 MoE 模型在训练标度预测、超参数缩放规律以及大规模 Muon 优化器上的工程实践细节。
NVIDIA 发布开源 120B 参数的多模态智能体模型 Nemotron 3.5 Super VL,以及两款面向本地和边缘场景的 Nemotron 3.5 Bolt 模型。
推薦理由:这批开源模型从 120B 多模态覆盖到 4GB 端侧规格,让企业能在本地和边缘硬件上直接部署多步骤智能体工作流。
vLLM 宣布首发支持 NVIDIA Nemotron 3.5 Super VL,提供连续批处理、前缀缓存、投机解码和 OpenAI 兼容 API 等部署能力。
推薦理由:原文给出了通过 vLLM 部署混合架构 MoE 视觉智能体模型的配置,为长上下文多模态推理提供了工程参考。
英伟达推出开放多模态模型 Nemotron 3.5 Super VL,采用 120B 总参数、12B 激活参数的 MoE 架构,单 GPU 智能体任务吞吐量最高达同规模开放模型的 5 倍。
推薦理由:原文给出了 MoE 架构参数、量化部署指标与端侧模型规格,读者可以据此评估本地智能体与多模态任务的推理部署成本。
NVIDIA 推出开源可定制的多模态模型 Nemotron 3.5 Super VL,用于支持复杂企业工作流中的专用智能体。该模型采用 120B 参数的 MoE 架构,推理时仅激活 12B 参数,支持文档阅读、跨源信息核验与工具调用等多模态推理任务。
推薦理由:原文给出了 120B MoE 激活 12B 参数的架构信息,读者可以据此评估其在企业专用智能体工作流中的运行成本与适用场景。
开源多模态模型 Apertus 1.5 正式发布并开源 8B 与 70B 权重,支持图像与音频理解、可选思考模式以及强化工具调用。模型采用基于 Tokenizer 的早期融合架构保持文本级训练速度,上下文窗口扩展 4 倍至 262,144 tokens,并在 Apache 2.0 协议下公开了全阶段训练数据配比、中间检查点与评测记录。
推薦理由:该版本公开了完整训练数据配比、各阶段中间检查点与评测规范,为多模态早期融合研究提供了高透明度开源样本。
阶跃星辰正式开放 Step 5 Preview 的 BF16 与 FP8 模型权重并上线技术博客。该模型面向长程 Agent 任务设计,采用稀疏 MoE 架构,总参数量 600B、每 token 激活 27B,支持 100 万 token 上下文与文本视觉多模态输入。
推薦理由:原文详细给出了600B稀疏MoE的架构细节与长程Agent训练方案,有助于了解深层网络与百万上下文的工程落地。
库克在上海受访时确认,Apple 智能首批功能将于 10 月底在中国大陆推出测试版,涵盖实时翻译、照片消除与写作工具,但全新 Siri AI 暂不在测试范围内。此外,阿里千问将作为 AI 能力集成至 iOS、iPadOS、macOS 和 visionOS,双方还将围绕中国市场需求共同训练专属模型。
推薦理由:报道明确了 Apple 智能国行版的首批测试功能与上线排期,并披露了与阿里千问在能力集成及模型共训层面的合作细节。
阶跃正式开源 Step 5 Preview 的 BF16 与 FP8 权重,该模型采用总参数 600B、每 token 激活 27B 的稀疏 MoE 架构,原生支持图文输入与 100 万 token 上下文窗口。
推薦理由:原文给出了参数规模与稀疏架构细节,开发者可以据此评估长上下文智能体在本地部署时的算力与显存开销。
面壁智能与OpenBMB正式开源端侧多模态模型MiniCPM-V 4.7,包含35B-A3B与1.3B两个版本。其中35B-A3B为激活3B参数的MoE架构,借助前瞻专家调度与逐层混合精度量化,可在iPhone断网环境下仅占用约3G内存运行,解码速度超过每秒13个token。该系列模型支持iOS、安卓等多平台部署,并配套自回放微调技术以减少模型定制时的能力遗忘。
推薦理由:该模型通过前瞻专家调度将35B MoE的内存需求压至3G,为端侧设备离线部署大参数多模态模型提供了具体的工程实现参考。
苹果折叠屏手机 iPhone Duo 国行版在工信部换证备案中新增三款大模型编号,涵盖 Apple 智能、通义万相与通义千问。阿里巴巴表示千问将作为 AI 能力集成至 Apple 智能,为中国市场的 iOS、iPadOS、macOS 和 visionOS 用户提供文本与图像理解及生成等功能。该设备将于 10 月 16 日开启预购,10 月 23 日正式发售,定价 15999 元起。
推薦理由:备案信息明确了国行 Apple 智能接入阿里大模型的合规进展,读者可以据此判断端侧 AI 在国内设备落地的落地方式。