arXiv 自然语言处理· Yujian Chen, Hao Jiang, Guang Cheng, Weijian Luo, Tianyang Hu·· 3 小时前AI 评分33
投机草稿模型与连续扩散语言模型之间的生成差距
The Generative Gap Between Speculative Drafter and Continuous Diffusion Language Model
AI 导读
研究对比了连续扩散语言模型 LangFlow 与投机草稿模型 DSpark 在无验证下的独立生成能力。在 OpenWebText 的 16、128 和 1024 长度评测中，LangFlow 在 128 与 1024 长度的 GenPPL 与 MAUVE 指标均优于 DSpark 变体，DSpark-RNN 仅在 16 长度领先。全序列迭代去噪展现出在较长序列独立生成上的显著优势。
来源：arXiv 自然语言处理 · arxiv.org