Google Developers · AI 筛选·· 1 天前精选AI 评分66
Google Cloud 携手 HeyGen 将 Avatar IV 迁移至 Trillium TPU 并提速 1.86 倍
HeyGen x Google Cloud: Bringing Avatar IV to TPUs
AI 导读
HeyGen 联合 Google Cloud 将 18B 参数的数字人视频模型 Avatar IV 迁移至 8 芯片 Trillium(v6e)TPU 主机,端到端推理速度相比初始版本提升 1.86 倍。
推荐理由
文章详细拆解了将大模型从 GPU 迁移至 TPU 的通信流水线与算子重构细节,为大吞吐流式生成提供了实测参考。
来源:Google Developers · AI 筛选 · developers.googleblog.com