本文へスキップ
原文
IT168 服务器存储 · AI与算力(网页)·· 6 時間前AI スコア47

中科曙光:Token时代,存储为何必须“重造”自己?

Token时代,存储为何必须“重造”自己?

未翻訳のため中国語で表示しています。

AI ガイド

面对 Agent 场景下的长上下文与多轮交互需求,中科曙光提出“AI数据工厂”存储范式,将存储从被动数据容器转变为主动参与 Token 生成的生产要素。其 ParaCache 方案原生支持 KV Cache 语义,实测将 KV Cache 卸载至 L4 分布式存储后 Token 吞吐提升 15 到 25 倍,且单 TB 成本仅约为内存的 1/40。

出典:IT168 服务器存储 · AI与算力(网页) · server.it168.com