投机扩散中的双重权衡

研究提出在投机扩散（Speculative Diffusion）中联合调节扩散计算量与投机解码接受宽容度，以优化大语言模型的推理效率。扩散大语言模型（dLLM）具备并行生成 token 能力并适合作为草稿模型，同时投机解码可通过放宽验证器接受标准实现有损加速。实验表明，联合调节这两项参数能够超越单步扩散草稿，进一步拓展速度与质量的帕累托前沿。