AWS Machine Learning Blog· Yadan Wei·· 2 天前AI 评分28
用 vLLM-Omni 在 SageMaker AI 上构建实时语音应用(上):Qwen3-TTS 流式部署
Build real-time voice applications with vLLM-Omni on SageMaker AI – Part 1
AI 导读
AWS 发布教程,演示如何用 vLLM-Omni Deep Learning Container 在 Amazon SageMaker AI 上部署 Qwen3-TTS,通过 SageMaker 双向流式连接实现文本流入、24 kHz PCM 音频分块流出,并配套 Gradio 应用。
来源:AWS Machine Learning Blog · aws.amazon.com