跳到正文
原文
AITNT · AI头条(网页)·· 4 小时前AI 评分75

清华MADSys等推出KTransformers-FineTune,利用CPU/GPU协同加速MoE微调

别再让计算等着搬权重了!KTransformers让CPU直接参与MoE微调计算

AI 导读

清华大学 MADSys 实验室与趋境科技联合发布开源框架 KTransformers-FineTune(KT-FT),通过 CPU 与 GPU 协同计算范式解决 MoE 大模型微调中的显存瓶颈。

来源:AITNT · AI头条(网页) · aitntnews.com