跳到正文
热点事件持续更新

研究提出MDraft蒸馏方法加速推测解码

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

2026年10月30日,arXiv公开的一项自然语言处理研究提出了面向扩散草稿模型的“Multi-Draft On-Policy Distillation”(MDraft)方法。该方法主要针对投机解码中的单步扩散草稿模型优化策略内蒸馏训练,通过从相同上下文采样多个草稿块,并跨前缀聚合验证器的全词表条件分布,从而有效缓解独立预测造成的分布失配问题。报道显示,MDraft无需改动模型架构与推理流程,在数学、编程及对话等任务测试中,均取得了优于先前蒸馏方法的草稿接受长度表现。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. arXiv 自然语言处理
    面向扩散草稿模型的 Multi-Draft On-Policy Distillation

    研究者提出 Multi-Draft On-Policy Distillation(MDraft),针对投机解码中的单步扩散草稿模型优化策略内蒸馏训练。该方法从相同上下文采样多个草稿块,并跨前缀聚合验证器的全词表条件分布,有效缓解了独立预测带来的分布失配问题。MDraft 无需改动模型架构与推理流程,在数学、编程和对话任务中均实现了优于先前蒸馏方法的草稿接受长度。

本事件热度走势

当前热度 9·可比范围峰值 9(10月30日 15:00)·近 24 小时可比范围变化 –

02.557.51010月30日15:0010月30日16:0010月30日16:0010月30日17:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。