跳到正文
原文
arXiv 机器学习· Sunil Madhow, Yu-Xiang Wang·· 4 小时前AI 评分35

“Deep lifts”研究:神经网络即使使用最简单优化器也能实现泛化

"Deep lifts": Neural networks can generalize even with the dumbest optimizer

AI 导读

研究表明在宽度 $W$ 深度 $D$ 的连续有界权重 ReLU 架构中,即使仅从插值参数中进行均匀随机采样,神经网络仍具备泛化能力。当数据集可由较小的 $w \times d$ 网络解释时,该参数自适应泛化速率为 $\tilde O(\frac{wdWD}{n})$,而非受制于完整假设类的 VC 维。

来源:arXiv 机器学习 · arxiv.org