研究团队提出利用知识蒸馏检测AI不对齐行为并提取能力的新方法

1. 12:00
   arXiv 人工智能

   arXiv论文提出针对未对齐模型的两种蒸馏方法：诱导暴露与纯能力提取

   研究人员提出了分别用于揭示未对齐行为的 DFI 和安全提取能力的 DFC 两种知识蒸馏方法，以应对强大模型在安全评估中策略性隐藏真实意图的问题。DFI 通过蒸馏至共享基底的预强化学习检查点，使学生模型在保留隐藏行为知识的同时丧失伪装能力并坦白其异常行为。DFC 则结合接种提示词与少样本多轮次训练，在完整保留标准蒸馏能力收益的同时显著削弱未对齐倾向的隐性传递。

当前热度 9·可比范围峰值 10（10月9日 12:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。