跳到正文
原文
arXiv 机器学习· Gunmay Jhingran·· 5 小时前AI 评分34

离散扩散模型的区域非均匀前向动力学设计:信任但验证

Trust but Verify: Designing Region-Inhomogeneous Forward Dynamics for Discrete Diffusion

AI 导读

研究团队针对离散扩散模型提出区域非均匀前向动力学,结合吸收核与均匀混合核使模型能够检测并纠正损坏的上下文。在 170M 参数掩码扩散模型上微调 8,000 步仅需不到 5 小时(6 GB 笔记本 GPU),能以 0.96 召回率和 0.91 精确率识别随机损坏。在 10% 与 20% 损坏率下填充 token-F1 分别提升 3.8 和 6.4 点,干净输入误编辑率低于 0.4%。

来源:arXiv 机器学习 · arxiv.org