AWS 机器学习· Pierre Lienhart·· 4 小时前AI 评分51
Deepgram 如何基于 AWS Trainium2 优化语音大模型大规模推理
How Deepgram optimized voice AI at scale with AWS Trainium
AI 导读
Deepgram 联合 AWS 将 Nova-3 语音转文本模型迁移至 AWS Trainium2 芯片，在单台 Amazon EC2 trn2.3xlarge 实例上部署 8 个模型副本，离线批量处理下每美元音频处理量提升 11%–70%。
来源：AWS 机器学习 · aws.amazon.com