Google与Meta开源TorchTPU并获主流框架适配
先了解这件事
2026年10月20日,Google与Meta联合开源TorchTPU,为Google TPU提供原生的PyTorch后端混合执行架构,支持动态图执行优化、自定义ATen算子、编译缓存与torch.compile集成。围绕该项目,AI开源生态迅速展开适配:Hugging Face同日宣布Transformers与Diffusers库原生支持TorchTPU,无需再依赖PyTorch/XLA或Optimum TPU;Google联合Inferact与RadixArk推出适配方案,让vLLM和SGLang可直接在TPU运行。10月21日,vLLM进一步联合Google发布了专为Google Cloud TPU设计的后端插件vllm-torchtpu,可直接复用模型定义开展高性能推理。
AI 根据报道生成 · 2 分钟前更新
事件进展
3 个进展
- 10月20日 23:19 · 2 篇报道Google推出基于TorchTPU的原生vLLM与SGLang推理引擎Google Developers · AI 筛选:Google 发布基于 TorchTPU 的原生 vLLM 与 SGLang 推理引擎
- 10月20日 12:00 · 2 篇报道Google与Meta联合发布TorchTPUarXiv 人工智能:Google 与 Meta 联合开源 TorchTPU:面向 TPU 的原生 PyTorch 混合执行架构
- 10月20日 08:00 · 1 篇报道Hugging Face宣布通过TorchTPU原生支持TPUHugging Face:Hugging Face 宣布原生支持 TorchTPU,Transformers 与 Diffusers 可直接在 TPU 运行
报道时间线
沿着报道,了解事件的不同侧面。
- Buzzing HN · 中文精选精选Google 开源 TorchTPU:面向 TPU 的原生 PyTorch 后端
Google 开源了面向 TPU 设备的原生 PyTorch 后端项目 TorchTPU,允许用户直接在 TPU 上运行 PyTorch 模型与算子。该项目提供了自定义 ATen 算子实现、优化 XLA 计算的编译缓存,并集成了 torch.compile() 图模式与分布式训练支持。
- vLLM 官方博客精选vLLM 发布 Google Cloud TPU 后端 vllm-torchtpu
vLLM 联合 Google 推出专为 Google Cloud TPU 设计的后端插件 vllm-torchtpu,允许直接复用已有模型定义并在 TPU 上实现高性能推理。
- Google Developers · AI 筛选精选Google 发布基于 TorchTPU 的原生 vLLM 与 SGLang 推理引擎
Google 联合 Inferact 与 RadixArk 推出基于 TorchTPU 的原生 PyTorch 后端,让 vLLM 与 SGLang 能够直接在 TPU 上运行并保留标准 PyTorch 开发调试体验。
- arXiv 人工智能精选Google 与 Meta 联合开源 TorchTPU:面向 TPU 的原生 PyTorch 混合执行架构
Google 与 Meta 联合开源 TorchTPU,为 Google TPU 提供原生的 PyTorch 后端支持。该方案通过动态图执行优化、torch.compile 集成与原生硬件加速,实现开箱即用的模型运行与无缝 TPU 迁移。系统在保持原生 PyTorch 编程体验的同时,在模型推理与训练任务中提供具备行业竞争力的性能表现。
- Hugging Face精选Hugging Face 宣布原生支持 TorchTPU,Transformers 与 Diffusers 可直接在 TPU 运行
Hugging Face 宣布通过 TorchTPU 原生支持 Google TPU,Transformers 与 Diffusers 库无需再依赖 PyTorch/XLA 或 Optimum TPU 即可直接运行模型。
本事件热度走势
当前热度 6·可比范围峰值 6(10月21日 01:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。