跳到正文
原文
IT之家 · AI 筛选·· 3 小时前AI 评分59

摩尔线程开源 Megatron-MUSA-Titan,聚焦万卡级集群万亿参数 MoE 训练

摩尔线程开源 Megatron-MUSA-Titan,聚焦万卡级集群的万亿参数 MoE 模型训练

AI 导读

摩尔线程宣布开源大模型训练基础设施项目 Megatron-MUSA-Titan,面向其全功能 GPU 平台提供万卡级集群的万亿参数 MoE 模型适配与系统优化能力。

来源:IT之家 · AI 筛选 · ithome.com