跳到正文
原文
IT168 服务器存储 · AI与算力(网页)·· 8 小时前AI 评分47

从训练到推理:中科曙光FN Neo定义AI存力新范式

AI 导读

中科曙光正式发布AI推理原生存储FN Neo,通过跨节点池化共享与原生KV语义,将集中式全闪存储纳入KV Cache分层体系。FN Neo单阵列带宽达160GB/s,实测TTFT缩减73%、Token吞吐提升150%,在DeepSeek-R1-Distill-Llama-70B等多轮推理中显著快于本地NVMe。

来源:IT168 服务器存储 · AI与算力(网页) · server.it168.com