研究团队提出分层LLM智能体知识蒸馏框架

2026年10月26日，相关研究论文在arXiv发布，提出了一种分层大语言模型（LLM）智能体知识蒸馏框架。该框架将策略选择解耦为“交互历史”与“当前动作token前缀”两个层级，以探索智能体蒸馏中的策略跟随机制。在3个模型及4个交互环境的测试表明，由学生诱导的历史搭配教师生成的动作前缀能够提供最强的单一训练信号，而两个层级完全跟随学生的方案表现最差。此外，测试还发现，前期优先使用教师生成的上下文并在后期引入完全on-policy数据的动态训练调度，表现显著优于静态混合策略。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。