arXiv 机器学习· Yushu Wang, Renkai Yang, Jingcao Xu, Zili Geng, Haihong Tang, Yaohui Jin, Hao He·· 6 小时前AI 评分34
GR-OPD：面向 On-Policy 知识蒸馏的组相对序列信用机制
GR-OPD: Group-Relative Sequence Credit for On-Policy Distillation
AI 导读
研究人员提出 GR-OPD 方法，通过将 token 反馈聚合为校准后的序列级信用，改进 On-Policy 知识蒸馏的信用分配机制。在 5 个 Qwen3 教师-学生设置与 6 个数学推理基准中，GR-OPD 宏观 Avg@K 全面优于原生 OPD，在两项思维模式匹配设置中分别提升 10.9 和 11.5 个百分点，并在思维模式不匹配导致原生 OPD 崩溃的场景下保持稳定训练。
来源：arXiv 机器学习 · arxiv.org