arXiv 自然语言处理· Chanhyuk Lee, Wonjung Kim, Patrick Pynadath, Jaehoon Yoo, Satoshi Hayakawa, Ruqi Zhang, Jinwoo Kim, Seunghoon Hong·· 6 hours agoAI score40
异步流映射语言模型 aFMLM
Asynchronous Flow Map Language Models
Not yet translated; shown in Chinese.
AI guide
研究人员提出异步流映射语言模型（aFMLM），通过学习异步流的流映射将预测顺序引入单步并行语言建模。该方法利用逐 token 的时间调度控制去噪进程并结合流映射蒸馏，使模型仅凭单次前向传播即可完成全部 token 生成。在数独求解与 GSM8K 数学题代码生成任务中，aFMLM 均创下了单步性能新 SOTA。
Source:arXiv 自然语言处理 · arxiv.org