研究揭示搜索增强LLM Agent存在认知偏差
Start here
2026年11月5日,研究团队在arXiv发表论文,针对配备搜索功能的LLM Agent构建了受控测试平台,跨10个模型与1,000个合成搜索世界对其认知偏差进行了分阶段分析。研究结果显示,在主动搜索中,Agent的最终答案对初始证据顺序更为敏感,且死胡同历史会抑制其进行策略切换。此外,在存在错误假设的情况下,即使Agent打开了反面证据,错误仍可能持续存在,并且更多打开反面证据有时反而伴随着准确率的下降。
AI-generated from reports · Updated 9 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 自然语言处理配备搜索功能的 LLM Agent 认知偏差特征:分阶段分析
研究团队针对配备搜索功能的 LLM Agent 构建了受控测试平台,跨 10 个模型与 1,000 个合成搜索世界分阶段分析认知偏差。结果显示,主动搜索中最终答案对初始证据顺序更敏感,且死胡同历史会抑制策略切换。在存在错误假设时,即使打开反面证据错误仍可能持续,且更多打开反面证据有时反而伴随准确率下降。
Story heat trend
Current heat 8·Comparable peak 10(Nov 5 14:00)·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.