热点事件持续更新
研究提出大型扩散模型Schedule-Free训练优化策略
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年10月19日，arXiv机器学习领域发布的一项研究指出，大型扩散模型训练仅依赖指数移动平均（EMA）存在优化局限。研究发现，常数学习率配合EMA难以充分发挥模型潜力，而采用Schedule-Free优化方法能够持续超越常数学习率EMA基线，取得更低的评估目标值与更优的生成质量。研究还指出，学习率衰减虽能与EMA互补，但其收益对衰减起始时机较为敏感；Schedule-Free优化则在大幅降低参数波动性的同时，保留了后期持续优化的能力。此外，该优化带来的增益不仅适用于预训练阶段，还可进一步延伸至ReFL与生成器侧DMD等微调和生成场景。
AI 根据报道生成 · 4 小时前更新
最新进展10月19日 12:00
研究提出Schedule-Free优化方案，可突破传统EMA在大扩散模型训练中的优化局限。报道时间线
沿着报道，了解事件的不同侧面。
10月19日
- arXiv 机器学习研究指出大型扩散模型训练仅靠 EMA 并不足够
研究发现常数学习率配合 EMA 训练大型扩散模型存在优化局限，而 Schedule-Free 优化能持续超越常数学习率 EMA 基线，取得更低的评估目标值与更优的生成质量。学习率衰减虽与 EMA 互补，但收益对衰减起始时机敏感；Schedule-Free 则在大幅降低参数波动性的同时保留了后期持续优化的能力。该方法的增益还能从预训练延伸至 ReFL 和生成器侧 DMD 场景。
本事件热度走势
当前热度 9·可比范围峰值 10（10月19日 13:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。