研究团队提出自适应策略蒸馏算法APD
Start here
2026年11月3日，arXiv自然语言处理领域发布研究，提出自适应策略蒸馏（Adaptive-Policy Distillation，简称APD）算法，旨在解决信息不对称环境下的闭卷知识注入难题。该方法通过逐token门控机制，动态将rollout偏向教师模型，并切换至forward KL目标。在无需额外标注或验证器的情况下，APD相比现有on-policy蒸馏（OPD）性能提升最高达54.6%。实验评测显示，该方法在QASPER数据集上取得0.558 F1分数，在BioASQ数据集上取得0.486 MRR分数，均达到最佳表现。
AI-generated from reports · Updated 1 day ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 自然语言处理Adaptive-Policy Distillation（APD）：信息不对称下的知识注入
研究提出自适应策略蒸馏（APD），通过逐 token 门控动态将 rollout 偏向教师模型并切换至 forward KL 目标，解决闭卷知识注入难题。在无需标注或验证器的情况下，APD 相比 on-policy 蒸馏（OPD）性能提升最高达 54.6%。该方法在 QASPER 上取得 0.558 F1，在 BioASQ 上取得 0.486 MRR 的最佳表现。
Story heat trend
Current heat 4·Comparable peak 9（Nov 3 18:00）·Comparable change, last 24 hours-51%
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.