AWS 机器学习· Yadan Wei·· 2 天前AI 评分48
在 Amazon SageMaker AI 上使用 vLLM-Omni 构建实时语音应用(第 1 部分)
Build real-time voice applications with vLLM-Omni on SageMaker AI – Part 1
AI 导读
AWS 演示如何在 Amazon SageMaker AI 上通过 vLLM-Omni DLC 部署 Qwen3-TTS 模型,构建实时流式文本转语音应用。方案利用基于 HTTP/2 的 WebSocket 双向流式连接,支持实时发送文本并回传 24 kHz PCM 音频块以实现边生成边播放。
来源:AWS 机器学习 · aws.amazon.com