热点事件持续更新
Deepgram基于AWS Trainium2优化Nova-3模型推理
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Deepgram 联合 AWS 将其 Nova-3 语音转文本大模型迁移至 AWS Trainium2 芯片,以优化大规模推理表现。双方在单台 Amazon EC2 trn2.3xlarge 实例上成功部署了 8 个模型副本。测试数据显示,在离线批量处理场景下,基于 Trainium2 的部署方案使得每美元能够处理的音频量提升了 11% 至 70%,有效提升了模型推理的性价比。
AI 根据报道生成 · 2 小时前更新
最新进展10月20日 00:23
Deepgram将Nova-3模型迁移至Trainium2芯片,离线批量处理每美元音频量提升11%–70%。报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- AWS 机器学习Deepgram 如何基于 AWS Trainium2 优化语音大模型大规模推理
Deepgram 联合 AWS 将 Nova-3 语音转文本模型迁移至 AWS Trainium2 芯片,在单台 Amazon EC2 trn2.3xlarge 实例上部署 8 个模型副本,离线批量处理下每美元音频处理量提升 11%–70%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。