跳到正文
原文
arXiv 机器学习· Yingdong Shi, Zhihong Li, Changming Li, Jingyi Yu, Quan Li, Kan Ren·· 13 小时前AI 评分33

OPMD:超越输出监督的同策略机制蒸馏

OPMD: On-Policy Mechanism Distillation Beyond Output Supervision

AI 导读

研究人员提出同策略机制蒸馏(OPMD),通过将教师模型的中间计算转化为学生模型下游计算可用的中间状态,并从同策略轨迹中进行内化,突破了传统输出空间监督的限制。在评估的全部三种教师-学生设定中,OPMD 均取得了蒸馏基线中的最高平均准确率,并可拓展至多教师蒸馏及跨模型族的监督微调。机制级监督不仅带来了更有效的推理,还改变了学生模型的中间计算与解题策略。

来源:arXiv 机器学习 · arxiv.org