Google DeepMind 发布 Decoupled DiLoCo：跨远距离数据中心的弹性分布式 AI 训练架构
Google DeepMind 提出全新分布式训练架构 Decoupled DiLoCo，通过异步数据流将大规模训练解耦到独立的算力单元中，实现跨全球数据中心的高容错与低通信开销训练。
推荐理由：原文给出了跨数据中心训练的异步解耦方案和实测数据，读者可以了解如何在低广域网带宽与异构硬件条件下维持高效预训练。
9月30日 · 周三
#数据中心
#数据中心
Google DeepMind精选AI 评分7575
SemiAnalysis · 算力产业精选AI 评分7777 SemiAnalysis 发布 H100 与 GB200 NVL72 训练基准评测：功耗、TCO 与可靠性分析
SemiAnalysis 发布 H100 与 GB200 NVL72 的训练基准与 TCO 测算，指出 GB200 NVL72 的每 GPU 综合 TCO 约是 H100 的 1.6 倍，实际训练性能需至少提升 1.6 倍才具备成本优势。
推荐理由：报告通过实际集群实测对比了芯片全周期 TCO，量化了新架构在可靠性不足与软件未成熟时的真实成本门槛。
已经到底了