跳到正文
原文
arXiv 自然语言处理· Thomas Zeng, Zelei Cheng, Mingyang Zhou, Sambit Sahu, William Campbell, Genta Indra Winata·· 4 小时前AI 评分38

超越纠正动作:利用文本批评训练 LLM 智能体

Beyond Corrected Actions: Training LLM Agents on Textual Critiques

AI 导读

研究者提出 CAFT 框架,利用专家 LLM 对学生模型生成的错误动作同时生成纠正动作和文本批评,并以此作为微调训练目标。在基于 Nemotron 3 和 Gemma 4 家族的 4 个学生模型上,CAFT 在 $\tau^2$-Bench Airline+Retail 和 WebShop 任务中相比仅动作蒸馏平均提升 8% 的性能。该检查点还能为强化学习提供比专家轨迹蒸馏更好的热启动。

来源:arXiv 自然语言处理 · arxiv.org