研究人员推出针对TPU优化的注意力算子FlyWheel
Start here
2026年11月3日，研究人员在arXiv发布针对TPU硬件构建的注意力算子集FlyWheel。该算子集同时支持softmax注意力与线性注意力，在TPU v6e上可达到81%的BF16峰值吞吐量。实测表现方面，FlyWheel相较于RPA使softmax注意力提速最高达4.14倍，使Gated DeltaNet的prefill阶段提速最高达3.61倍；此外，将其集成至推理框架vLLM运行千问模型（Qwen3.8-27B）时，能够将prefill吞吐量最高提升1.56倍。
AI-generated from reports · Updated 9 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 自然语言处理FlyWheel：专为 TPU 构建的注意力算子
研究者提出专为 TPU 构建的注意力算子集 FlyWheel，支持 softmax 与线性注意力，在 TPU v6e 上达到 81% 的 BF16 峰值吞吐量。该算子使 softmax 注意力较 RPA 提速最高 4.14x、Gated DeltaNet prefill 提速最高 3.61x，集成到 vLLM 运行千问（Qwen3.8-27B）时将 prefill 吞吐量提升最高 1.56x。
Story heat trend
Current heat 7·Comparable peak 9（Nov 3 18:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.