arXiv 机器学习· Wentao Lu, Tianyu Zhu, Jesse Clark·· 5 小时前AI 评分34
面向扩散大语言模型的结果路由蒸馏与强化学习
Outcome-Routed Distillation and Reinforcement Learning for Diffusion Language Models
AI 导读
研究人员针对 MoE 架构扩散大语言模型（dLLM）提出一种无需似然度的训练流水线，根据验证器结果动态路由蒸馏与强化学习。在 24 步去噪下，蒸馏使工具调用表现超出教师模型 6.77 个百分点，结果路由进一步提升了 18.31 个百分点。该方法通过锚定蒸馏检查点的 KL 约束限制奖励外能力变化，并在相同条目上将直接回答准确率提升 13.21 个百分点。
来源：arXiv 机器学习 · arxiv.org