跳到正文
热点事件持续更新

Deepgram基于AWS Trainium2优化Nova-3模型推理

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Deepgram 联合 AWS 将其 Nova-3 语音转文本大模型迁移至 AWS Trainium2 芯片,以优化大规模推理表现。双方在单台 Amazon EC2 trn2.3xlarge 实例上成功部署了 8 个模型副本。测试数据显示,在离线批量处理场景下,基于 Trainium2 的部署方案使得每美元能够处理的音频量提升了 11% 至 70%,有效提升了模型推理的性价比。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. AWS 机器学习
    Deepgram 如何基于 AWS Trainium2 优化语音大模型大规模推理

    Deepgram 联合 AWS 将 Nova-3 语音转文本模型迁移至 AWS Trainium2 芯片,在单台 Amazon EC2 trn2.3xlarge 实例上部署 8 个模型副本,离线批量处理下每美元音频处理量提升 11%–70%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。