研究提出Aligned RAG评估框架揭示知识投毒防御缺陷
Start here
2026年11月2日，arXiv自然语言处理领域发布研究，提出Aligned RAG Evaluation匹配查询评估框架。研究指出，在检索增强生成（RAG）评测中仅依赖攻击成功率（ASR），会掩盖知识投毒防御给系统带来的副作用与失效问题。在HotpotQA和Natural Questions数据集上的实验显示，现有防御手段虽能拦截部分攻击，但可能会引入意外的目标正向回答；同时，评价准则的改变会导致各防御方案的有效性排名发生变化。目前，该项研究的代码及相关评估资源已正式对外公开。
AI-generated from reports · Updated 8 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 自然语言处理阻止不等于防护：攻击成功率在 RAG 评测中掩盖了什么
研究者提出 Aligned RAG Evaluation 匹配查询评估框架，指出仅依赖攻击成功率（ASR）会掩盖知识投毒防御给 RAG 系统带来的副作用与失效。在 HotpotQA 和 Natural Questions 上的实验表明，现有防御虽能拦截部分攻击，却可能引入意外的目标正向回答，且评价准则改变会导致防御排名发生变化。该研究的代码及评估资源已公开。
Story heat trend
Current heat 8·Comparable peak 10（Nov 2 14:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.