arXiv 自然语言处理· Chahana Dahal, Zuobin Xiong·· 12 時間前AI スコア40
阻止不等于防护：攻击成功率在 RAG 评测中掩盖了什么
Prevented is Not Protected: What Attack Success Rate Hides about RAG
未翻訳のため中国語で表示しています。
AI ガイド
研究者提出 Aligned RAG Evaluation 匹配查询评估框架，指出仅依赖攻击成功率（ASR）会掩盖知识投毒防御给 RAG 系统带来的副作用与失效。在 HotpotQA 和 Natural Questions 上的实验表明，现有防御虽能拦截部分攻击，却可能引入意外的目标正向回答，且评价准则改变会导致防御排名发生变化。该研究的代码及评估资源已公开。
出典：arXiv 自然语言处理 · arxiv.org