arXiv 机器学习· Justin Jung·· 7 小时前AI 评分36
Noise Your Prompt:在连续扩散语言模型中对条件提示词 token 加噪
Noise Your Prompt: Noising Conditioning Tokens in Continuous Diffusion Language Models
AI 导读
研究提出在连续扩散语言模型训练中对条件提示词 token 进行加噪,仅需修改单行训练目标且默认不增加推理成本。该方法在组合推理任务上表现出更强泛化能力,使 Sudoku Hard 求解率从 3.73% 提升至 24.65%,10x10 N-Queens 解覆盖率从 50.60% 提升至 73.79%,并改善了 Gigaword 摘要质量。
来源:arXiv 机器学习 · arxiv.org