跳到正文
原文
Google Developers · AI 筛选·· 1 天前精选AI 评分66

Google Cloud 携手 HeyGen 将 Avatar IV 迁移至 Trillium TPU 并提速 1.86 倍

HeyGen x Google Cloud: Bringing Avatar IV to TPUs

AI 导读

HeyGen 联合 Google Cloud 将 18B 参数的数字人视频模型 Avatar IV 迁移至 8 芯片 Trillium(v6e)TPU 主机,端到端推理速度相比初始版本提升 1.86 倍。

推荐理由

文章详细拆解了将大模型从 GPU 迁移至 TPU 的通信流水线与算子重构细节,为大吞吐流式生成提供了实测参考。

来源:Google Developers · AI 筛选 · developers.googleblog.com