AWS 机器学习· Pierre Lienhart·· 16 日前AI スコア51
Deepgram 如何基于 AWS Trainium2 优化语音大模型大规模推理
How Deepgram optimized voice AI at scale with AWS Trainium
未翻訳のため中国語で表示しています。
AI ガイド
Deepgram 联合 AWS 将 Nova-3 语音转文本模型迁移至 AWS Trainium2 芯片,在单台 Amazon EC2 trn2.3xlarge 实例上部署 8 个模型副本,离线批量处理下每美元音频处理量提升 11%–70%。
出典:AWS 机器学习 · aws.amazon.com