arXiv 机器学习· Yujun Wang, Yiqi Gu·· 5 時間前AI スコア27
线性逼近类的通用频率原则
General Frequency Principle for Linear Approximation Classes
未翻訳のため中国語で表示しています。
AI ガイド
有限线性逼近类在梯度下降训练下的通用频率原则获理论证明:在合适假设下,高频处的学习器振幅相对于目标振幅在整个训练过程中均趋于零。研究进一步给出了低频优先的充分条件,指出在特定比较条件下高频分量通常比低频需要更长的学习时间。基于勒让德基与三角基的数值实验验证了该理论结论。
出典:arXiv 机器学习 · arxiv.org