跳到正文
原文
arXiv 机器学习· Vicente Opazo, Jose Calatayud-Mateu, Cristobal Rojas, Cristian Buc Calderon·· 6 小时前AI 评分26

当平坦度代理指标不是函数时:鲁棒性认证与训练干预

When a Flatness Proxy Is Not a Function: Robustness Certificates and Training Interventions

AI 导读

研究指出最后一层相对平坦度代理指标作为曲率上界时,无法直接用于鲁棒性认证或内在训练干预。在有限全局经验风险极小值处,原有认证表达式会将损失增加低估超过 210x,对此研究推导出了全局有效且具备规范不变性的特征空间修正方案。行中心化消除了 softmax 偏移导致的指标未有界问题,在算法与图像模型测试中保证了梯度与预测的一致性。

来源:arXiv 机器学习 · arxiv.org