AITNT · AI头条(网页)·· 2 小时前精选AI 评分76
谷歌联手Meta开源TorchTPU原生软件栈
谷歌联手Meta奇袭英伟达,开源TorchTPU,给PyTorch代码搬家
AI 导读
谷歌与Meta联合开源原生TPU软件栈TorchTPU,支持开发者以较少代码改动将现有PyTorch模型部署至谷歌TPU。该方案覆盖大模型训练、推理与端侧部署,已深度接入vLLM、SGLang、llm-d及TorchTitan等主流工具,并在最多8000颗TPU集群上完成分布式训练验证。此外,端侧推理框架LiteRT也同步接入PyTorch生态,支持模型一键导出至移动端和多平台硬件。
推荐理由
该软件栈降低了PyTorch模型向TPU迁移的代码改动成本,使开发者在GPU之外有了可行的训练与推理算力替代选项。
来源:AITNT · AI头条(网页) · aitntnews.com