arXiv 机器学习· Rui Wang·· 12 hours agoAI score34
去噪即 Stein：扩散模型中学习隐藏结构的矩访问与资源层级
Denoising Is Stein: Moment Access and a Resource Hierarchy for Learning Hidden Structure in Diffusion Models
Not yet translated; shown in Chinese.
AI guide
扩散模型在数据包含隐藏非高斯成分时，去噪损失中的相关性等价于 Stein 差异，可通过对噪声视角的条件平均实现精确矩查询。在协方差匹配机制下，若首个区分矩阶数为 $k^\ast$，两阶段学习器仅需 $O(d^{k^\ast/2}\log d)$ 个干净样本即可恢复隐藏方向并取得得分增益。在 $d=64$ 至 $192$ 的实验中，宽度为 8 的网络呈现出类似 $d^2$ 的训练集阈值。
Source:arXiv 机器学习 · arxiv.org