跳到正文
热点事件持续更新

Google与Meta开源TorchTPU并获主流框架适配

5 篇报道5 个报道来源32 分钟前更新

先了解这件事

AI 综述

2026年10月20日,Google与Meta联合开源TorchTPU,为Google TPU提供原生的PyTorch后端混合执行架构,支持动态图执行优化、自定义ATen算子、编译缓存与torch.compile集成。围绕该项目,AI开源生态迅速展开适配:Hugging Face同日宣布Transformers与Diffusers库原生支持TorchTPU,无需再依赖PyTorch/XLA或Optimum TPU;Google联合Inferact与RadixArk推出适配方案,让vLLM和SGLang可直接在TPU运行。10月21日,vLLM进一步联合Google发布了专为Google Cloud TPU设计的后端插件vllm-torchtpu,可直接复用模型定义开展高性能推理。

AI 根据报道生成 · 2 分钟前更新

事件进展

3 个进展

  1. 10月20日 23:19 · 2 篇报道
    Google推出基于TorchTPU的原生vLLM与SGLang推理引擎
    Google Developers · AI 筛选:Google 发布基于 TorchTPU 的原生 vLLM 与 SGLang 推理引擎
  2. 10月20日 12:00 · 2 篇报道
    Google与Meta联合发布TorchTPU
    arXiv 人工智能:Google 与 Meta 联合开源 TorchTPU:面向 TPU 的原生 PyTorch 混合执行架构
  3. 10月20日 08:00 · 1 篇报道
    Hugging Face宣布通过TorchTPU原生支持TPU
    Hugging Face:Hugging Face 宣布原生支持 TorchTPU,Transformers 与 Diffusers 可直接在 TPU 运行

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. Buzzing HN · 中文精选精选
    Google 开源 TorchTPU:面向 TPU 的原生 PyTorch 后端

    Google 开源了面向 TPU 设备的原生 PyTorch 后端项目 TorchTPU,允许用户直接在 TPU 上运行 PyTorch 模型与算子。该项目提供了自定义 ATen 算子实现、优化 XLA 计算的编译缓存,并集成了 torch.compile() 图模式与分布式训练支持。

  2. vLLM 官方博客精选
    vLLM 发布 Google Cloud TPU 后端 vllm-torchtpu

    vLLM 联合 Google 推出专为 Google Cloud TPU 设计的后端插件 vllm-torchtpu,允许直接复用已有模型定义并在 TPU 上实现高性能推理。

10月20日
  1. Google Developers · AI 筛选精选
    Google 发布基于 TorchTPU 的原生 vLLM 与 SGLang 推理引擎

    Google 联合 Inferact 与 RadixArk 推出基于 TorchTPU 的原生 PyTorch 后端,让 vLLM 与 SGLang 能够直接在 TPU 上运行并保留标准 PyTorch 开发调试体验。

  2. arXiv 人工智能精选
    Google 与 Meta 联合开源 TorchTPU:面向 TPU 的原生 PyTorch 混合执行架构

    Google 与 Meta 联合开源 TorchTPU,为 Google TPU 提供原生的 PyTorch 后端支持。该方案通过动态图执行优化、torch.compile 集成与原生硬件加速,实现开箱即用的模型运行与无缝 TPU 迁移。系统在保持原生 PyTorch 编程体验的同时,在模型推理与训练任务中提供具备行业竞争力的性能表现。

  3. Hugging Face精选
    Hugging Face 宣布原生支持 TorchTPU,Transformers 与 Diffusers 可直接在 TPU 运行

    Hugging Face 宣布通过 TorchTPU 原生支持 Google TPU,Transformers 与 Diffusers 库无需再依赖 PyTorch/XLA 或 Optimum TPU 即可直接运行模型。

本事件热度走势

当前热度 6·可比范围峰值 6(10月21日 01:00)·近 24 小时可比范围变化 –

0246810月21日01:0010月21日02:0010月21日03:0010月21日04:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。