arXiv 机器学习· Taiki Miyagawa·· 1 天前AI 评分25
对称商平坦度与泛化
Symmetry-quotient Flatness and Generalization
AI 导读
该研究提出对称商平坦度理论,建立了从商线性稳定性、商平坦度、输入平滑度到泛化的理论链路。针对传统平坦度缺乏对称不变性的缺陷,论文将商平坦度定义为正则商流形上经验损失 Hessian 的迹,证明线性化 SGD 的商线性稳定性可由 batch size 和学习率显式约束,并在局部覆盖假设下推导出总体泛化界。
来源:arXiv 机器学习 · arxiv.org