热点事件持续更新
研究团队提出GR-OPD在线知识蒸馏方法
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月19日,研究人员在arXiv发表论文,提出面向On-Policy知识蒸馏(OPD)的GR-OPD方法。该方法通过将token反馈聚合为校准后的序列级信用,改进了在线知识蒸馏的信用分配机制。实验表明,在5个Qwen3教师-学生设置与6个数学推理基准中,GR-OPD的宏观Avg@K全面优于原生OPD,在两项思维模式匹配设置中分别提升10.9和11.5个百分点。此外,在思维模式不匹配导致原生OPD崩溃的场景下,GR-OPD仍能保持稳定训练。
AI 根据报道生成 · 3 小时前更新
最新进展10月19日 12:00
研究团队提出GR-OPD在线蒸馏方法,在数学推理基准中显著优于原生OPD并解决训练崩溃问题。报道时间线
沿着报道,了解事件的不同侧面。
10月19日
- arXiv 机器学习GR-OPD:面向 On-Policy 知识蒸馏的组相对序列信用机制
研究人员提出 GR-OPD 方法,通过将 token 反馈聚合为校准后的序列级信用,改进 On-Policy 知识蒸馏的信用分配机制。在 5 个 Qwen3 教师-学生设置与 6 个数学推理基准中,GR-OPD 宏观 Avg@K 全面优于原生 OPD,在两项思维模式匹配设置中分别提升 10.9 和 11.5 个百分点,并在思维模式不匹配导致原生 OPD 崩溃的场景下保持稳定训练。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。