研究探讨LLM智能体蒸馏中思考监督的必要性

1. 13:00
   arXiv 人工智能

   LLM 智能体：仅在有用时才思考

   新研究在 LLM 智能体蒸馏中独立扰动思考和行动发现，改变或舍弃思考对学生模型的最终行动表现几乎没有影响。只有当训练中思考所含信息未在对应行动中披露时，思考监督才会变得至关重要。该发现挑战了蒸馏完整轨迹的传统做法，表明可根据行动是否包含思考信息来针对性选择思考监督以提升效率。

Current heat 9·Comparable peak 10（Nov 5 14:00）·Comparable change, last 24 hours–

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.