arXiv 自然语言处理· Longxuan Yu, Bingsen Chen, Peng Shi, Dongkyu Lee, Yi Xiang, Hideo Kobayashi, Sheng Zhang, Shuaichen Chang, Xing Niu, Zhuoyan Xu, Greg Ver Steeg, Jiarong Jiang·· 1 天前AI 评分43
DEdit：面向投机解码的迭代草稿编辑
DEdit: Iterative Draft Editing for Speculative Decoding
AI 导读
DEdit 是一种面向投机解码的扩散草稿生成器，通过双向上下文迭代编辑草稿并修复早期预测错误，从而显著延长目标模型的接受前缀。该方法结合 ProposalMix 训练方案混合草稿与真值 token，将缩短接受前缀的有害编辑减少了一半。在 7 项基准测试中，DEdit 在 Qwen3-4B 和 Qwen3-8B 上分别实现了 5.72x 与 5.97x 的宏平均加速比。
来源：arXiv 自然语言处理 · arxiv.org