跳到正文
原文
arXiv 自然语言处理· Anhao Zhao, Haoran Xin, Junlong Tong, Yingqi Fan, Xuan Lu, Ping Nie, Wenjie Li, Xiaoyu Shen·· 6 小时前AI 评分33

DIAL-OPD:在同策略知识蒸馏中用更少 Token 实现更优学习

DIAL-OPD: Learning More from Fewer Tokens in On-Policy Distillation

AI 导读

DIAL-OPD 提出了一种面向同策略知识蒸馏(OPD)的 token 选择方法,通过教师与学生概率的对数平均值加权奖励幅度来过滤低价值 token。在 7 个数学推理基准测试中,该方法仅保留 40% 的 token 即可超越全量 token 基线,平均准确率最高提升 5.25 个百分点,并将 AIME25 Pass@16 从 13.33% 提升至 26.67%。

来源:arXiv 自然语言处理 · arxiv.org