ホットトピック継続更新中
研究团队推出决策模型推理引擎Flide
1 件の報道1 件の報道元6 時間前 更新
まずこの件を把握する
AI 概要
2026年11月2日,研究团队在arXiv发布论文,推出决策模型推理引擎Flide。该引擎核心采用ForkAttention技术,通过将决策请求的逻辑树结构与底层物理执行解耦来实现推理加速。Flide同时支持标准注意力机制与循环Gated DeltaNet层,确保各个查询分支的计算结果与独立前向传播完全一致。在针对混合模型与决策模型的基准评测中,Flide处理查询的速度比vLLM和SGLang快高达9.5倍,且其总变差距离最接近float32基准。
AI が報道をもとに生成 · 6 時間前 更新
最新の進展11月2日 13:00
研究团队推出推理引擎Flide,在决策模型评测中响应速度比vLLM和SGLang快高达9.5倍。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月2日
- arXiv 自然语言处理Flide:通过精确状态分叉加速决策模型推理
研究团队推出决策模型推理引擎 Flide,通过 ForkAttention 将决策请求的逻辑树结构与物理执行解耦以加速推理。该引擎支持标准注意力与循环 Gated DeltaNet 层,确保各查询分支计算与独立前向传播完全一致。在混合与决策模型评测中,Flide 响应查询的速度比 vLLM 和 SGLang 快高达 9.5 倍,且总变差距离最接近 float32 基准。
このストーリーのホット度の推移
現在のホット度 8·比較可能範囲のピーク 10(11月2日 14:00)·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。