热点事件持续更新
学者发表Muon优化器极分解更新机制理论分析论文
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
2026年10月23日，arXiv机器学习领域发表新研究，从矩阵二次问题视角深入解析了Muon优化器的核心更新机制PolarGD，揭示了正交化加速训练与导致训练变慢的内在机理。研究指出，PolarGD的收敛速度由当前迭代状态主导，极小奇异值会导致训练过程严重变慢；但Muon实际采用的少量Newton-Schulz迭代能够有效规避这一缺陷，其收敛速度反而快于精确正交化。此外，实测数据显示，Transformer注意力矩阵中约有四分之一的奇异值恰好处于该极小值区间。
AI 根据报道生成 · 6 小时前更新
最新进展10月23日 12:00
新论文解析Muon核心更新PolarGD，揭示Newton-Schulz迭代加速机理。报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- arXiv 机器学习从二次函数视角看 Muon 极分解更新：优势、陷阱与 Newton-Schulz 的作用
新研究在矩阵二次问题上解析了 Muon 核心更新 PolarGD，揭示了正交化加速训练与变慢的机理。其收敛速度由当前迭代状态主导，极小奇异值会导致严重变慢；而 Muon 采用的少量 Newton-Schulz 迭代能规避该缺陷，收敛速度快于精确正交化。此外，实测 Transformer 注意力矩阵约四分之一的奇异值正处于该区间。
本事件热度走势
当前热度 8·可比范围峰值 10（10月23日 13:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。