arXiv 自然语言处理· Jonghyun Song, Haewon Park, Jeonghoon Shim, Woojung Song, Yohan Jo·· 3 小时前AI 评分54
论文揭示大语言模型智能体在搜索中存在信源偏好及缓解方法
Source Preference in the Wild: How LLM Agents Favor Items by Source, and How to Reduce It
AI 导读
研究团队在三个领域测试了 12 个大语言模型智能体，发现智能体在端到端搜索中存在显著的信源偏好，且这种偏好会压倒实际需求满足度。当低满足度的选项来自被偏好的来源时，其被选中的概率高达约三分之二，而重新标记来源或隐藏来源信息会直接改变选择概率。研究指出补充缺失信息或使用针对性提示词能有效减少这种信源偏见。
来源：arXiv 自然语言处理 · arxiv.org