arXiv 人工智能· Peng Tu, Baoyou Chen, Haoyuan Xia, Zilong Dong, Weihao Yuan, Siyu Zhu·· 11 時間前AI スコア34
用于离散扩散模型蒸馏的双向中心分数匹配(BCSM)
Bidirectional Centered Score Matching for Discrete Diffusion Distillation
未翻訳のため中国語で表示しています。
AI ガイド
研究人员提出用于离散扩散模型蒸馏的双向中心分数匹配(BCSM),通过构建双向活跃集将蒸馏目标复杂度降至 $\mathcal{O}(K)$,并引入跨时间步转移对齐。实验表明,BCSM 展现出显著的质量与效率权衡,在单步推理下最高可减少 6x 的 NFE,同时在 HumanEval 和 MMMU 上分别实现 16.9% 与 15.1% 的相对增益。
出典:arXiv 人工智能 · arxiv.org