arXiv 人工智能· Jinghao Pang, Jitai Hao, Qiang Huang, Zhaochun Ren, Jun Yu·· 1 天前AI 评分44
超越拒绝模式:通过安全角色内化实现鲁棒且可泛化的 LLM 安全对齐
Beyond Refusal Patterns: Safe-Role Internalization for Robust and Generalizable LLM Safety Alignment
AI 导读
研究人员提出首个将安全对齐重构为预定义安全角色内化的框架 SSRFT。该方法通过构建 SRQA 数据集,使模型内化安全导向的价值观与原则,而非单纯依赖显式拒绝模式。在多种 Base 与 Instruct 模型上的实验表明,SSRFT 相比标准 SFT 能更有效防御 prefilling 攻击,提升在未知越狱领域的泛化能力,并减少对良性提示词的过度拒绝。
来源:arXiv 人工智能 · arxiv.org