ホットトピック継続更新中
研究者提出面向GDN-MoE的投机解码方案HybridSpec
1 件の報道1 件の報道元14 時間前 更新
まずこの件を把握する
AI 概要
2026年11月4日,研究者在arXiv发布论文,提出面向混合GDN-MoE模型的吞吐感知投机解码方案HybridSpec。该方案可在GPU上动态选择验证长度,并利用轻量路由校正优化验证过程。其块并行GDN内核在验证长度为4至16时,相较默认内核提速1.54倍至4.04倍。在三款GDN-MoE目标模型的单请求贪婪解码测试中,HybridSpec相比自回归解码提速1.75倍至1.88倍,相比DFlash提速1.30倍至1.33倍。
AI が報道をもとに生成 · 13 時間前 更新
最新の進展11月4日 13:00
研究者提出HybridSpec投机解码方案,单请求贪婪解码最高提速1.88倍。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月4日
- arXiv 人工智能HybridSpec:面向混合 GDN-MoE 模型的吞吐感知投机解码
研究者提出面向混合 GDN-MoE 模型的投机解码方案 HybridSpec,可在 GPU 上动态选择验证长度并利用轻量路由校正优化验证过程。其块并行 GDN 内核在验证长度 4 至 16 下较默认内核提速 1.54x-4.04x。在三款 GDN-MoE 目标模型的单请求贪婪解码中,HybridSpec 较自回归解码提速 1.75x-1.88x,较 DFlash 提速 1.30x-1.33x。
このストーリーのホット度の推移
現在のホット度 7·比較可能範囲のピーク 10(11月4日 14:00)·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。