AIDC
← 返回全部动态
量子位AI 评分 70/10009月26日 15:12

谷歌TPU运行Kimi模型性能超英伟达GPU 57%,采用DeepSeek推理优化架构

据vLLM核心成员创办的团队最新测试,谷歌TPU在运行Kimi模型时的推理性能相较英伟达GPU提升达57%。该评测结合了DeepSeek开源的高效推理技术框架,展示了非英伟达硬件生态在适配并加速顶尖大模型推理上的实质进展。原文摘要信息有限,具体TPU版本及测试对比基线等硬件参数细节未详述。

推荐理由展示了TPU结合DeepSeek开源推理生态挑战英伟达GPU的实际性能表现,对算力多元化落地具有参考价值。

原标题:谷歌TPU跑Kimi比英伟达GPU快57%!用的还是DeepSeek推理框架

阅读 量子位 原文 ↗