arXiv 机器学习· Bowen Fang (Columbia University), Dingmin Wang (AWS AI Lab), Hengzhi Pei (Amazon AGI)·· 13 時間前AI スコア36
$D^2$-OPD：在外推式同策略蒸馏中解耦方向与距离
$D^2$-OPD: Separating Direction and Distance in Extrapolative On-Policy Distillation
未翻訳のため中国語で表示しています。
AI ガイド
研究团队提出 $D^2$-OPD，在外推式同策略蒸馏中解耦外推方向与距离，通过每前缀硬 KL 约束限制目标与教师模型的距离。该方法自适应确定外推方向，并采用前向 KL 为低概率 token 提供学习信号。在数学推理基准的全部三种设置中，$D^2$-OPD 均取得最高分，相比最强基线最高提升 9.45 分。
出典：arXiv 机器学习 · arxiv.org