苹果研究团队探讨离散扩散模型置信度采样局限性

2026年10月，Apple Machine Learning Research 发布关于离散扩散模型置信度机制局限性的研究。研究表明，离散扩散模型基于置信度采样在每步写入多个 token 时，因无法满足条件独立性要求，难以精确匹配训练分布。研究从理论上证明，独立的位置边际分布乘积无法拟合具有内在依赖关系的 token 组。在合成任务 ScanAndAdd 的实验验证中，按置信度排序写入的多位置组均存在依赖关系，导致生成分布的总变差达到采样噪声底的 29 倍，而单样本指标仍显示为 1.0。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。