arXiv 机器学习· Yuxing Peng, Zhiqing Tang, Weijia Jia·· 1 天前AI 评分32
重尾噪声下 Clipped SGD 最后迭代在未知时间视界下的代价
The Cost of an Unknown Horizon for the Last Iterate of Clipped SGD under Heavy-Tailed Noise
AI 导读
该研究确定了光滑凸目标在重尾噪声下截断 SGD(Clipped SGD)最后迭代的最优时间一致收敛速率 $\tilde\Theta(t^{-\beta_p})$($\beta_p=2(p-1)/(3p-1)$)。
来源:arXiv 机器学习 · arxiv.org