跳到正文
热点事件持续更新

研究团队提出GR-OPD在线知识蒸馏方法

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月19日,研究人员在arXiv发表论文,提出面向On-Policy知识蒸馏(OPD)的GR-OPD方法。该方法通过将token反馈聚合为校准后的序列级信用,改进了在线知识蒸馏的信用分配机制。实验表明,在5个Qwen3教师-学生设置与6个数学推理基准中,GR-OPD的宏观Avg@K全面优于原生OPD,在两项思维模式匹配设置中分别提升10.9和11.5个百分点。此外,在思维模式不匹配导致原生OPD崩溃的场景下,GR-OPD仍能保持稳定训练。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. arXiv 机器学习
    GR-OPD:面向 On-Policy 知识蒸馏的组相对序列信用机制

    研究人员提出 GR-OPD 方法,通过将 token 反馈聚合为校准后的序列级信用,改进 On-Policy 知识蒸馏的信用分配机制。在 5 个 Qwen3 教师-学生设置与 6 个数学推理基准中,GR-OPD 宏观 Avg@K 全面优于原生 OPD,在两项思维模式匹配设置中分别提升 10.9 和 11.5 个百分点,并在思维模式不匹配导致原生 OPD 崩溃的场景下保持稳定训练。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。