DeepSeek 开源推理框架 DeepInfer 与分词组件 deepseek-recipe

DeepSeek 发布技术博客并以 Apache 2.0 协议开源了云服务推理框架 DeepInfer 和 Rust 生产级分词组件 deepseek-recipe。该系统在单一集群上实现每日 155 万亿 Token 的服务吞吐，包含 3FS 分布式存储实现长效 KV Cache 留存与 10 TiB/s 聚合读取带宽、SWA Bounded Replay 重算技术以及异步流水线重叠等工程优化。