热点事件观察中
研究团队提出在线大模型蒸馏方法 OLIVE
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
2026年9月30日，研究团队在 arXiv 上提出了一种名为 OLIVE 的在线大语言模型蒸馏方法。该方法通过让学生模型生成前缀、教师模型进行自回归续写，并基于交叉熵更新学生模型。实验显示，OLIVE 的异步实现将总训练时间减少了 23.8%，在硬推理与智能体任务中的表现均优于 OPD 等现有蒸馏方案。此外，仅使用 GPT-5.4-mini 文本进行持续训练时，OLIVE 在 ScienceWorld 评测上的表现相比离线监督微调（SFT）提升了 13%。
AI 根据报道生成 · 2 小时前更新
最新进展9月30日 12:00
研究团队提出在线大模型蒸馏方法 OLIVE，异步训练时间缩短 23.8%，性能优于 OPD 等方案。报道时间线
沿着报道，了解事件的不同侧面。
9月30日
- arXiv 自然语言处理OLIVE：在学生状态下从教师续写中学习的在线大语言模型蒸馏方法
研究团队提出在线大语言模型蒸馏方法 OLIVE，通过让学生模型生成前缀、教师模型自回归续写并基于交叉熵更新学生模型。该方法的异步实现将总训练时间减少 23.8%，在硬推理与智能体任务中表现均优于 OPD 等现有蒸馏方案。仅使用 GPT-5.4-mini 文本持续训练时，OLIVE 在 ScienceWorld 上的表现比离线 SFT 提升 13%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。