研究揭示LLM在RAG中存在从众偏差
Start here
2026年11月2日，发表于arXiv的一项自然语言处理研究显示，大语言模型在检索增强生成（RAG）场景中存在“从众偏差”。当投毒文档占据检索证据的多数时，模型识别错误信息的能力显著下降。针对SciFact数据集的200个问题测试显示，Gemma-3-12b模型的投毒检出率从少数文档被投毒时的25%（50/200）降至多数文档被投毒时的10%（20/200）。在结果发生改变的38个问题中，有34个由检出转变为未检出（p = 6.04e-7），证实了多数派证据对模型判断的显著干扰。
AI-generated from reports · Updated 5 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 自然语言处理大语言模型在 RAG 中表现出从众偏差：当多数文档支持投毒主张时
研究发现大语言模型在 RAG 中存在从众偏差，当投毒文档占据检索证据多数时识别错误信息的能力显著下降。针对 SciFact 的 200 个问题测试显示，Gemma-3-12b 的投毒检出率从少数投毒时的 25%（50/200）降至多数投毒时的 10%（20/200）。在结果改变的 38 个问题中，有 34 个由检出变为未检出（p = 6.04e-7）。
Story heat trend
Current heat 9·Comparable peak 10（Nov 2 14:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.