arXiv 人工智能· Yichen Sun, Qirui Liu, Yan Wang, Jianan Lin, Linbo Jiang, Shiyu Wang, Zhibo Wang, Zhixuan Chu·· 7 小时前AI 评分41
SAVeR$^2$：基于可验证奖励的大型推理模型安全对齐方法
SAVeR$^2$: Reasoning-based Safety Alignment for Large Reasoning Models via Verifiable Rewards
AI 导读
研究人员提出大型推理模型安全对齐方法 SAVeR$^2$，通过可验证奖励解决显式 CoT 推理的安全风险并消除“安全税”。该方法将安全目标分解为 4 个细粒度可验证奖励信号，并通过梯度投影机制化解安全与推理梯度冲突。在 1.5B 至 671B 模型的实验表明，其在多个 benchmark 上显著降低过度拒绝率，且不损害通用推理能力。
来源：arXiv 人工智能 · arxiv.org