热点事件持续更新
研究提出Aligned RAG评估框架揭示知识投毒防御缺陷
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
2026年11月2日，arXiv自然语言处理领域发布研究，提出Aligned RAG Evaluation匹配查询评估框架。研究指出，在检索增强生成（RAG）评测中仅依赖攻击成功率（ASR），会掩盖知识投毒防御给系统带来的副作用与失效问题。在HotpotQA和Natural Questions数据集上的实验显示，现有防御手段虽能拦截部分攻击，但可能会引入意外的目标正向回答；同时，评价准则的改变会导致各防御方案的有效性排名发生变化。目前，该项研究的代码及相关评估资源已正式对外公开。
AI 根据报道生成 · 7 小时前更新
最新进展11月2日 13:00
研究者提出Aligned RAG评估框架并公开代码，揭示知识投毒防御副作用及ASR指标局限。报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv 自然语言处理阻止不等于防护：攻击成功率在 RAG 评测中掩盖了什么
研究者提出 Aligned RAG Evaluation 匹配查询评估框架，指出仅依赖攻击成功率（ASR）会掩盖知识投毒防御给 RAG 系统带来的副作用与失效。在 HotpotQA 和 Natural Questions 上的实验表明，现有防御虽能拦截部分攻击，却可能引入意外的目标正向回答，且评价准则改变会导致防御排名发生变化。该研究的代码及评估资源已公开。
本事件热度走势
当前热度 8·可比范围峰值 10（11月2日 14:00）·近 24 小时可比范围变化–
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。