arXiv 自然语言处理· Shunyuan Zhou, Hao Chen, Tianyu Wang, Goose Lin, Zaiyuan Wang, Haiying Zhao·· 4 小时前AI 评分44
RAG-Stress：探究检索增强生成中证据依赖的极限
RAG-Stress: Probing the Limits of Evidence Reliance in Retrieval-Augmented Generation
AI 导读
RAG-Stress 是一项用于探究检索增强生成（RAG）中证据依赖极限的诊断协议，专门衡量误导性检索证据导致模型推翻原有正确答案的误导率（MR）。该研究在 TriviaQA-RC、HotpotQA、SearchQA 及中英文 MedQA 上评测了 15 个模型系统。结果显示，优先依赖检索文档的指令使 MR 高出 10.9 至 13.5 个百分点，且误导信息位于证据末尾时更易引发错误覆盖。
来源：arXiv 自然语言处理 · arxiv.org