研究探讨LLM智能体蒸馏中思考监督的必要性

2026年11月5日，arXiv发布的一项最新人工智能研究探讨了大语言模型（LLM）智能体蒸馏中思考监督的必要性。该研究在蒸馏过程中独立扰动思考和行动，结果发现，改变或舍弃思考对学生模型的最终行动表现几乎没有影响；只有当训练中思考所包含的信息未在对应行动中披露时，思考监督才会变得至关重要。这一发现挑战了以往蒸馏完整轨迹的传统做法，表明可以根据行动是否包含思考信息来针对性地选择思考监督，从而提升模型蒸馏效率。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。