Google DeepMind·· 2026-04-22精选AI 评分75
Google DeepMind 发布 Decoupled DiLoCo：跨远距离数据中心的弹性分布式 AI 训练架构
Decoupled DiLoCo: A new frontier for resilient, distributed AI training
AI 导读
Google DeepMind 提出全新分布式训练架构 Decoupled DiLoCo，通过异步数据流将大规模训练解耦到独立的算力单元中，实现跨全球数据中心的高容错与低通信开销训练。
推荐理由
原文给出了跨数据中心训练的异步解耦方案和实测数据，读者可以了解如何在低广域网带宽与异构硬件条件下维持高效预训练。
来源：Google DeepMind · deepmind.google