Skip to content
Hot storiesContinuously updated

学者提出深度学习谱重整化群理论

1 reports1 reporting sourcesUpdated 20 hours ago

Start here

AI overview

2026年11月3日,arXiv机器学习领域发表的一项新研究提出了深度学习的谱重整化群(RG)视角。该研究揭示,神经网络层重尾幂律谱指数 α ≈ 2 是稳定学习与过拟合之间的统计及物理分界点;在物理机制上,该数值使谱能量增益在对数谱尺度上实现均匀缩放,满足威尔逊边缘条件。此外,研究基于此建立了 SETOL 理论,将谱 RG 流与 Muon 优化器建立联系,并进一步衍生出了新的优化器扩展 WW-PGD。

AI-generated from reports · Updated 16 hours ago

Report timeline

Follow the reports to see different sides of the story.

Nov 3
  1. arXiv 机器学习
    深度学习的谱重整化群视角

    新研究提出深度学习的谱重整化群(RG)视角,揭示神经网络层重尾幂律谱指数 $\alpha \approx 2$ 是稳定学习与过拟合的统计及物理分界点。该数值在物理上使谱能量增益在对数谱尺度上均匀缩放,满足威尔逊边缘条件。基于此建立的 SETOL 理论将谱 RG 流与 Muon 优化器相连接,并衍生出新的优化器扩展 WW-PGD。

Story heat trend

Current heat 6·Comparable peak 9(Nov 3 18:00)·Comparable change, last 24 hours–

02.557.510Nov3Nov3Nov4Nov4

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.