ホットトピック観察中
研究人员推出针对TPU优化的注意力算子FlyWheel
1 件の報道1 件の報道元1 日前 更新
まずこの件を把握する
AI 概要
2026年11月3日,研究人员在arXiv发布针对TPU硬件构建的注意力算子集FlyWheel。该算子集同时支持softmax注意力与线性注意力,在TPU v6e上可达到81%的BF16峰值吞吐量。实测表现方面,FlyWheel相较于RPA使softmax注意力提速最高达4.14倍,使Gated DeltaNet的prefill阶段提速最高达3.61倍;此外,将其集成至推理框架vLLM运行千问模型(Qwen3.8-27B)时,能够将prefill吞吐量最高提升1.56倍。
AI が報道をもとに生成 · 23 時間前 更新
最新の進展11月3日 13:00
研究者推出专为TPU构建的注意力算子FlyWheel,在TPU v6e上达81%峰值吞吐。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月3日
- arXiv 自然语言处理FlyWheel:专为 TPU 构建的注意力算子
研究者提出专为 TPU 构建的注意力算子集 FlyWheel,支持 softmax 与线性注意力,在 TPU v6e 上达到 81% 的 BF16 峰值吞吐量。该算子使 softmax 注意力较 RPA 提速最高 4.14x、Gated DeltaNet prefill 提速最高 3.61x,集成到 vLLM 运行千问(Qwen3.8-27B)时将 prefill 吞吐量提升最高 1.56x。
このストーリーのホット度の推移
現在のホット度 5·比較可能範囲のピーク 9(11月3日 18:00)·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。