研究发现良性递归自蒸馏会导致大模型渐进式对齐失效

1. 12:00
   arXiv 机器学习

   论文发现良性递归自蒸馏会导致模型出现渐进式对齐失效

   研究表明即使完全在良性提示词与安全生成内容上进行递归自蒸馏训练，模型也会随着轮次迭代在多种有害查询中逐步丧失对齐，作者将此现象称为渐进式对齐失效。该失效模式在 Qwen3 和 Phi-4 模型族以及 SORRY-Bench 与 StrongREJECT 评测中均被验证。实验还发现，替换为良性模拟用户反馈或利用梯度方法挖掘良性提示词同样会诱发该问题，表明无需有害训练数据即可触发安全失效。

当前热度 9·可比范围峰值 10（10月19日 13:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。