arXiv 自然语言处理· Mehrdad Ghassabi, Audrina Ebrahimi, Zahra Zojaji, Amin Milani Fard·· 5 小时前AI 评分38
大语言模型在 RAG 中表现出从众偏差：当多数文档支持投毒主张时
Language Models Show Conformity Bias in RAG: When the Majority Endorses a Poisoned Claim
AI 导读
研究发现大语言模型在 RAG 中存在从众偏差，当投毒文档占据检索证据多数时识别错误信息的能力显著下降。针对 SciFact 的 200 个问题测试显示，Gemma-3-12b 的投毒检出率从少数投毒时的 25%（50/200）降至多数投毒时的 10%（20/200）。在结果改变的 38 个问题中，有 34 个由检出变为未检出（p = 6.04e-7）。
来源：arXiv 自然语言处理 · arxiv.org