跳到正文
原文
arXiv 机器学习· Yuxing Peng, Zhiqing Tang, Weijia Jia·· 1 天前AI 评分32

重尾噪声下 Clipped SGD 最后迭代在未知时间视界下的代价

The Cost of an Unknown Horizon for the Last Iterate of Clipped SGD under Heavy-Tailed Noise

AI 导读

该研究确定了光滑凸目标在重尾噪声下截断 SGD(Clipped SGD)最后迭代的最优时间一致收敛速率 $\tilde\Theta(t^{-\beta_p})$($\beta_p=2(p-1)/(3p-1)$)。

来源:arXiv 机器学习 · arxiv.org