ホットトピック観察中
扩散大语言模型推理加速框架Step-dLLM发布
1 件の報道1 件の報道元1 日前 更新
まずこの件を把握する
AI 概要
2026年11月3日,相关研究公布了面向扩散大语言模型高效推理的新方案Step-dLLM。该方案引入了自适应步感知块稀疏注意力机制,能够在去噪轨迹中周期性刷新掩码并基于头自适应分配计算预算,从而有效加速扩散大语言模型的推理过程。在实现与落地方面,Step-dLLM底层配备了融合IO感知的Triton kernel,且无需进行重新训练,即可直接应用于LLaDA-1.5和Dream-7B-Instruct等大语言模型。
AI が報道をもとに生成 · 1 日前 更新
最新の進展11月3日 13:00
Step-dLLM框架发布,通过自适应步感知块稀疏注意力加速扩散大模型推理,支持免训练直接应用。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月3日
- arXiv 自然语言处理Step-dLLM:面向扩散大语言模型高效推理的自适应步感知稀疏注意力
Step-dLLM 引入自适应步感知块稀疏注意力机制,通过在去噪轨迹中周期性刷新掩码与头自适应分配预算,加速扩散大语言模型推理。该方案无需重新训练即可直接应用于 LLaDA-1.5 和 Dream-7B-Instruct,底层配备融合 IO 感知的 Triton kernel。
このストーリーのホット度の推移
現在のホット度 5·比較可能範囲のピーク 9(11月3日 18:00)·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。