热点事件持续更新
研究团队推出决策模型推理引擎Flide
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年11月2日,研究团队在arXiv发布论文,推出决策模型推理引擎Flide。该引擎核心采用ForkAttention技术,通过将决策请求的逻辑树结构与底层物理执行解耦来实现推理加速。Flide同时支持标准注意力机制与循环Gated DeltaNet层,确保各个查询分支的计算结果与独立前向传播完全一致。在针对混合模型与决策模型的基准评测中,Flide处理查询的速度比vLLM和SGLang快高达9.5倍,且其总变差距离最接近float32基准。
AI 根据报道生成 · 4 小时前更新
最新进展11月2日 13:00
研究团队推出推理引擎Flide,在决策模型评测中响应速度比vLLM和SGLang快高达9.5倍。报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- arXiv 自然语言处理Flide:通过精确状态分叉加速决策模型推理
研究团队推出决策模型推理引擎 Flide,通过 ForkAttention 将决策请求的逻辑树结构与物理执行解耦以加速推理。该引擎支持标准注意力与循环 Gated DeltaNet 层,确保各查询分支计算与独立前向传播完全一致。在混合与决策模型评测中,Flide 响应查询的速度比 vLLM 和 SGLang 快高达 9.5 倍,且总变差距离最接近 float32 基准。
本事件热度走势
当前热度 9·可比范围峰值 10(11月2日 14:00)·近 24 小时可比范围变化–
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。