arXiv 自然语言处理· Peigui Qi, Kunsheng Tang, Yide Song, Weiming Zhang, Nenghai Yu·· 4 小时前AI 评分39
理解与缓解工具调用型 LLM Agent 中的幻觉逃逸
Understanding and Mitigating Hallucination Escape in Tool-Using LLM Agents
AI 导读
研究人员揭示了工具调用型 LLM Agent 在新配置下幻觉反而加剧的“幻觉逃逸”现象，并提出免训练推理方法 EscapeGuard。该方法结合冲突感知门控与配置衍生注意力增强，可在抑制幻觉逃逸的同时降低工具幻觉。在 6 个 benchmark 测试中，EscapeGuard 将工具选择幻觉降低 9.0 pp，跨配置均值降低 23.7 pp，配对查询评估取得 89.1% 的净改善。
来源：arXiv 自然语言处理 · arxiv.org