跳到正文
热点事件持续更新

研究者提出面向GDN-MoE的投机解码方案HybridSpec

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

2026年11月4日,研究者在arXiv发布论文,提出面向混合GDN-MoE模型的吞吐感知投机解码方案HybridSpec。该方案可在GPU上动态选择验证长度,并利用轻量路由校正优化验证过程。其块并行GDN内核在验证长度为4至16时,相较默认内核提速1.54倍至4.04倍。在三款GDN-MoE目标模型的单请求贪婪解码测试中,HybridSpec相比自回归解码提速1.75倍至1.88倍,相比DFlash提速1.30倍至1.33倍。

AI 根据报道生成 · 12 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. arXiv 人工智能
    HybridSpec:面向混合 GDN-MoE 模型的吞吐感知投机解码

    研究者提出面向混合 GDN-MoE 模型的投机解码方案 HybridSpec,可在 GPU 上动态选择验证长度并利用轻量路由校正优化验证过程。其块并行 GDN 内核在验证长度 4 至 16 下较默认内核提速 1.54x-4.04x。在三款 GDN-MoE 目标模型的单请求贪婪解码中,HybridSpec 较自回归解码提速 1.75x-1.88x,较 DFlash 提速 1.30x-1.33x。

本事件热度走势

当前热度 7·可比范围峰值 10(11月4日 14:00)·近 24 小时可比范围变化–

02.557.51011月4日14:0011月4日18:0011月4日21:0011月5日01:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。