本文へスキップ
ホットトピック継続更新中

研究团队提出在线蒸馏算法D²-OPD

1 件の報道1 件の報道元12 時間前 更新

まずこの件を把握する

AI 概要

2026年11月6日,研究团队在arXiv发布成果,提出名为D²-OPD的在线蒸馏算法。该方法在外推式同策略蒸馏中解耦了外推方向与距离,通过每前缀硬KL约束限制目标模型与教师模型之间的距离。此外,算法能够自适应确定外推方向,并采用前向KL为低概率token提供学习信号。测试结果显示,在数学推理基准的全部三种设置中,D²-OPD均取得最高分,相较最强基线最高提升9.45分。

AI が報道をもとに生成 · 12 時間前 更新

報道タイムライン

報道をたどり、出来事のさまざまな側面を知る。

11月6日
  1. arXiv 机器学习
    $D^2$-OPD:在外推式同策略蒸馏中解耦方向与距离

    研究团队提出 $D^2$-OPD,在外推式同策略蒸馏中解耦外推方向与距离,通过每前缀硬 KL 约束限制目标与教师模型的距离。该方法自适应确定外推方向,并采用前向 KL 为低概率 token 提供学习信号。在数学推理基准的全部三种设置中,$D^2$-OPD 均取得最高分,相比最强基线最高提升 9.45 分。

このストーリーのホット度の推移

現在のホット度 7·比較可能範囲のピーク 10(11月6日 14:00)·直近24時間の比較可能な変化–

02.557.51011月6日14:0011月6日18:0011月6日21:0011月7日01:00

トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。