AITNT · AI头条(网页)·· 4 小时前AI 评分75
清华MADSys等推出KTransformers-FineTune,利用CPU/GPU协同加速MoE微调
别再让计算等着搬权重了!KTransformers让CPU直接参与MoE微调计算
AI 导读
清华大学 MADSys 实验室与趋境科技联合发布开源框架 KTransformers-FineTune(KT-FT),通过 CPU 与 GPU 协同计算范式解决 MoE 大模型微调中的显存瓶颈。
来源:AITNT · AI头条(网页) · aitntnews.com