基于GB300 NVL72集群：Kimi-K3的高效DSpark多节点训练实践
文章介绍了针对Kimi-K3模型构建高效DSpark训练系统的技术实践。通过结合投机采样技术（Speculators）与Mooncake分布式架构，团队在GB300 NVL72算力集群上成功实现了多节点DSpark的高效扩展与训练，大幅提升了大模型训练中的吞吐表现与集群算力利用效率。
推荐理由展示了结合Mooncake架构与NVL72算力集群加速Kimi大模型训练的前沿工程实践。
原标题：How we trained the fastest DSpark for Kimi-K3 using GB300 NVL72
阅读 vLLM 官方博客（网页） 原文 ↗