arXiv 机器学习· Shixuan Liu, Joan Serr\`a, Kin Wai Cheuk, Jinju Kim, Woosung Choi, Yukara Ikemiya, Wei-Hsiang Liao, Jiaqi W. Ma, Yuki Mitsufuji·· 6 小时前AI 评分42
蒸馏扩散分数差异以实现高效训练数据归因
Distilling Diffusion Score Discrepancy for Efficient Training Data Attribution
AI 导读
研究人员提出基于局部得分差异的扩散模型训练数据归因方法 TID，并将其蒸馏为纯前向模型 TIDE。该方法适用于 DDPM、EDM 及 flow matching，无需重新训练且免除了单样本梯度存储。在 CIFAR-10、ArtBench-10 和 MS-COCO 上，TID 达到或超越 SOTA，TIDE 则将单次查询成本降低 4 到 5 个数量级，实现毫秒级归因。
来源：arXiv 机器学习 · arxiv.org