热点事件持续更新
研究团队提出大模型安全角色内化对齐框架SSRFT
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
2026年10月7日，研究人员在 arXiv 发布研究成果，提出首个将大语言模型安全对齐重构为预定义安全角色内化的框架 SSRFT。该方法旨在改变模型单纯依赖显式拒绝模式的现状，通过构建 SRQA 数据集，引导模型内化安全导向的价值观与原则。在多种 Base 与 Instruct 模型上的实验结果显示，相较于标准 SFT，SSRFT 能更有效防御 prefilling 攻击，显著增强模型在未知越狱领域的泛化防御能力，并有效减少对良性提示词的过度拒绝现象。
AI 根据报道生成 · 1 小时前更新
最新进展10月7日 12:00
研究人员提出安全角色内化框架SSRFT，可增强越狱防御并减少过度拒绝。报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- arXiv 人工智能超越拒绝模式：通过安全角色内化实现鲁棒且可泛化的 LLM 安全对齐
研究人员提出首个将安全对齐重构为预定义安全角色内化的框架 SSRFT。该方法通过构建 SRQA 数据集，使模型内化安全导向的价值观与原则，而非单纯依赖显式拒绝模式。在多种 Base 与 Instruct 模型上的实验表明，SSRFT 相比标准 SFT 能更有效防御 prefilling 攻击，提升在未知越狱领域的泛化能力，并减少对良性提示词的过度拒绝。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。