清华翟季冬团队等研发八卦炉2分布式训练系统

2026年10月28日，清华大学翟季冬团队等联合研发出八卦炉2分布式训练系统。针对万亿MoE模型在大规模集群训练中出现的显存尖峰与OOM难题，该系统提出了运行时自适应激活显存供给机制。系统在门控计算完成与专家计算启动之间的窗口期实时估算负载，按算子动态组合保存、重计算与卸载策略，并通过双批次融合调度掩盖额外开销，有效解决了万卡级规模下的显存瓶颈问题。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。