arXiv 机器学习· Wendy Zheng, Liang Wu, Yinhan He, Mayank Darbari, Jundong Li, Liangjie Hong·· 3 小时前AI 评分34
基于大语言模型的智能体系统自动化故障归因机理研究
A Mechanistic Study of Automated Failure Attribution in LLM-based Agentic Systems
AI 导读
研究人员针对基于大语言模型（LLM）的智能体系统自动化故障归因（AFA）展开机理研究，发现模型存在“知晓却不说”的差距，即内部激活编码了归因信息却无法显式输出。为此，研究提出一种名为 grafting 的人工干预方法，无需推理时真实标签即可利用模型潜在知识，在多模型和基准评测中持续优于直接提示词方法。
来源：arXiv 机器学习 · arxiv.org