量子位· 量子位的朋友们·· 19 日前厳選AI スコア62
范式智能联合睿思智联开源一站式 AI 部署平台模域 ModelSphere
范式智能联合睿思智联推出开源一站式 生产级 AI 部署平台 “模域ModelSphere”
未翻訳のため中国語で表示しています。
AI ガイド
范式智能联合睿思智联正式上线并开源一站式生产级 AI 部署平台模域 ModelSphere,基于 Apache 2.0 协议在 GitHub 开放。该平台将算力管理、模型部署和运行优化整合在统一架构中,内置 AutoTune 智能排期与三级 KV 缓存池,官方称极限吞吐效率提升约 285%。
推薦理由
平台整合了异构国产芯片调度与集群级优化,为企业解决异构算力纳管和推理部署门槛提供了可落地的开源方案。
出典:量子位 · qbitai.com