arXiv 自然语言处理· Chengyu Xie, Fei Shen, Shuyi Miao, Yue Feng, Jian Yu, Pengyang Shao, Yijun Tian, Xiaoyu Du·· 5 小时前AI 评分35
Safety Kernel：面向大语言模型跨语言防御的机理对齐方法
Safety Kernel: Mechanistic Alignment for Cross-Lingual Defense in LLMs
AI 导读
研究人员提出了面向大语言模型（LLM）跨语言防御的机理对齐方法 Safety Kernel（SK），通过定位多语言共享的安全神经元来抵御跨语言攻击。该方法计算 SCAR 分数筛选并求交集获得 SK，并基于此构建 SK-Masked LoRA，将 LoRA 参数更新严格约束在 SK 对应的 FFN 输出维度上。实验表明该方法能大幅降低多语言攻击成功率，且对模型通用能力影响极小。
来源：arXiv 自然语言处理 · arxiv.org