跳到正文
原文
Apple Machine Learning Research·· 7 天前AI 评分42

Apple 研究:如何引导扩散语言模型的流匹配

How to Guide Your Language Flow

AI 导读

Apple 与 Caltech 研究人员提出 probe guidance 方法,利用扩散模型冻结的内部状态构建引导信号以优化流匹配。该方法消除了推理时的额外前向传播,在连续扩散语言模型的无条件生成评测中刷新 SOTA 表现。将其应用于 1.7B 扩散语言模型时,不仅持续提升了多项选择问答基准成绩,还揭示了 autoguidance 的作用机制。

来源:Apple Machine Learning Research · machinelearning.apple.com