arXiv 自然语言处理· Yutong Ke, Yansu Wang, Zeyu Zhang, Xihao Guo, Chongwen Zhao, Kaizhu Huang·· 5 小时前AI 评分34
SAFETYEDIT：基于稀疏内部目标与全提示词控制的 LLM 越狱后门方法
SAFETYEDIT: Sparse Internal Targets with Prompt-Wide Control for LLM Jailbreak Backdoors
AI 导读
SAFETYEDIT 提出通过优化单个拒绝相关 MLP 坐标并利用早期注意力层 KV cache 标记传播触发信号，实现大语言模型越狱后门植入。在 4 款开源权重 LLM 测试中，该方法在 12 组对比中有 11 组取得最高触发 Guard ASR，且 12 组均获最高平均 StrongREJECT 分数。审计证实其对未触发状态下的模型行为及通用能力影响极小。
来源：arXiv 自然语言处理 · arxiv.org