arXiv 人工智能· Zixuan Weng, Haoqi He, Weifei Jin, Yue Huang, Yang Bai·· 7 小时前AI 评分46
Attention 负责识别、MLP 负责拒绝：大语言模型 Attention 到 MLP 安全路径追踪
Attention Sees, MLP Refuses: Tracing the Attention-to-MLP Safety Pathway in LLMs
AI 导读
研究发现在覆盖 Qwen、Llama 和 Gemma 的 18 对模型中，有害性信息更易从 Attention 更新（尤其是浅层）解码，而对齐模型中的 MLP 更新则在深层更集中地写入拒绝证据。
来源：arXiv 人工智能 · arxiv.org