本文へスキップ
原文
arXiv 自然语言处理· Chanhyuk Lee, Wonjung Kim, Patrick Pynadath, Jaehoon Yoo, Satoshi Hayakawa, Ruqi Zhang, Jinwoo Kim, Seunghoon Hong·· 11 時間前AI スコア40

异步流映射语言模型 aFMLM

Asynchronous Flow Map Language Models

未翻訳のため中国語で表示しています。

AI ガイド

研究人员提出异步流映射语言模型(aFMLM),通过学习异步流的流映射将预测顺序引入单步并行语言建模。该方法利用逐 token 的时间调度控制去噪进程并结合流映射蒸馏,使模型仅凭单次前向传播即可完成全部 token 生成。在数独求解与 GSM8K 数学题代码生成任务中,aFMLM 均创下了单步性能新 SOTA。

出典:arXiv 自然语言处理 · arxiv.org