Skip to content
Hot storiesContinuously updated

扩散大语言模型推理加速框架Step-dLLM发布

1 reports1 reporting sourcesUpdated 19 hours ago

Start here

AI overview

2026年11月3日,相关研究公布了面向扩散大语言模型高效推理的新方案Step-dLLM。该方案引入了自适应步感知块稀疏注意力机制,能够在去噪轨迹中周期性刷新掩码并基于头自适应分配计算预算,从而有效加速扩散大语言模型的推理过程。在实现与落地方面,Step-dLLM底层配备了融合IO感知的Triton kernel,且无需进行重新训练,即可直接应用于LLaDA-1.5和Dream-7B-Instruct等大语言模型。

AI-generated from reports · Updated 15 hours ago

Report timeline

Follow the reports to see different sides of the story.

Nov 3
  1. arXiv 自然语言处理
    Step-dLLM:面向扩散大语言模型高效推理的自适应步感知稀疏注意力

    Step-dLLM 引入自适应步感知块稀疏注意力机制,通过在去噪轨迹中周期性刷新掩码与头自适应分配预算,加速扩散大语言模型推理。该方案无需重新训练即可直接应用于 LLaDA-1.5 和 Dream-7B-Instruct,底层配备融合 IO 感知的 Triton kernel。

Story heat trend

Current heat 6·Comparable peak 9(Nov 3 18:00)·Comparable change, last 24 hours–

02.557.510Nov3Nov3Nov4Nov4

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.