arXiv 人工智能· William Jeffries·· 3 小时前精选AI 评分66
论文揭示工具输出格式化缺陷如何误导 AI 智能体及其验证器
Who Verifies the Tools? How Warped Formatters Mislead Agents and Their Verifiers
AI 导读
arXiv 论文指出工具输出格式化文本即使底层计算正确，也常因省略搜索限制、结果截断或命名空间等关键细节而误导 AI 智能体和验证器。实验显示，仅补全格式化信息就让验证器从 90 次全部采纳错误结论逆转为 90 次全部驳回，显著降低了无依据断言的发生率。研究团队还开源了审计提示词，已在 OpenClaw 和 Hermes 等开源智能体系统中定位并提交修复了同类格式化漏洞。
推荐理由
研究指出了工具输出格式缺陷误导智能体的机制，补全返回信息即可大幅降低验证失效率。
来源：arXiv 人工智能 · arxiv.org