研究揭示移除信息无法保证开源模型防微调篡改

1. 12:00
   arXiv 机器学习

   移除信息内容无法保证开源权重模型的防篡改能力

   研究表明仅靠在发布时降低互信息或移除有害信息，无法普遍保证开源权重模型能抵御微调攻击。保功能重参数化会在不改变信息量的情况下改变梯度下降几何结构，特定构造甚至在互信息为 0 的情况下仅用 1 步梯度即可恢复能力。这表明对模型防篡改性的认证必须引入发布时互信息之外的攻击动态约束。

当前热度 9·可比范围峰值 10（10月8日 13:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。