研究提出最小范数插值视角下的Grokking泛化理论

1. 12:00
   arXiv 机器学习

   从最小范数插值视角解析 Grokking 现象

   该研究从最小范数插值视角提出一套统计理论，量化解释了 Grokking 现象中正则化几何与信号稀疏性对插值附近泛化能力的影响。理论证明了强过参数化无噪声问题下的 0-1 泛化定律与 $\ell_r$ 正则化路径特征，表明促进稀疏的正则化使精确插值远优于近似拟合。对角线性网络与模运算 Transformer 的实验验证了该理论，并揭示了最小范数插值的统计不稳定性。

当前热度 9·可比范围峰值 10（10月1日 13:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。