vLLM 官方博客(网页)·· 14 小时前精选AI 评分69
vLLM 团队基于 GB300 NVL72 与 Mooncake 训练 Kimi K3 的 DSpark 投机草稿模型
How we trained the fastest DSpark for Kimi-K3 using GB300 NVL72Sep 15, 2026·9 min readHow Speculators and Mooncake enabled multi-node DSpark training for Kimi K3.
AI 导读
vLLM 团队通过 Speculators 训练库与 Mooncake 传输引擎,在 Verda 提供的 GB300 NVL72 机架上完成了 2.8T 参数 Kimi K3 模型的 DSpark 投机草稿模型训练与部署。
推荐理由
原文给出了基于 Mooncake 跨节点传输隐藏状态训练超大模型投机草稿模型的完整拓扑,读者可直接参考其多机训练与部署配置。
来源:vLLM 官方博客(网页) · vllm.ai