跳到正文
热点事件持续更新

研究提出基于L-平滑度的优化器深度迁移理论

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

2026年10月14日,arXiv机器学习领域发布了一项关于神经网络优化器深度迁移的研究。该研究基于L-平滑度框架展开,研究人员提出将残差分支缩放系数设定为与深度倒数成正比(α=Θ(1/K))。通过这一设定,能够在固定网络宽度的条件下,使损失函数的Lipschitz常数以及L-平滑度常数均与网络深度保持无关,为神经网络跨深度的优化器超参数迁移提供了理论依据与支持。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. arXiv 机器学习
    基于 L-平滑度的神经网络优化器深度迁移研究

    研究人员基于 L-平滑度框架,提出将残差分支缩放设为与深度倒数成正比($\alpha=\Theta(1/K)$),可使损失的 Lipschitz 和 L-平滑度常数在固定宽度下与深度无关。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。