arXiv 人工智能· Ritvij Sharma, Russell Dlugosz, Ryan Zhou, Maheep Chaudhary·· 1 天前AI 评分35
LLM 纵深防御：评估内存门控应对激活与记忆诱发阿谀奉承的效果
Defense-in-Depth for LLMs: Evaluating Memory Gates Against Activation-Induced and Memory-Induced Sycophancy
AI 导读
研究提出了一个 2×2 纵深防御框架，在 MemSyco-Bench 上评估了 4 款开源大语言模型结合内部激活转向与外部记忆处理的防御表现。实验表明，选择性 Router Gate 过滤比完全清除记忆能保留更多平均准确率，在 Llama 3.1 8B 上搭配微弱反向转向可将阿谀奉承率从 35.80% 降至 31.32%。
来源：arXiv 人工智能 · arxiv.org