在 SageMaker AI 上用 vLLM-Omni 构建实时语音应用(上)
AWS 发布教程,演示如何用 vLLM-Omni Deep Learning Container 在 Amazon SageMaker AI 上部署 Qwen3-TTS,通过 SageMaker 双向流式连接实现文本流入、24 kHz PCM 音频分块流出,并配套 Gradio 应用。该 DLC 基于 vLLM-Omni v1.5,新增 SageMaker AI 所需的双向流式能力标签与路由中间件,示例使用 v1/audio/speech/stream 原生 WebSocket 路由。
点配置和模型。如果进程在清理完成之前停止,请通过 SageMaker AI 控制台或 API 删除资源。正在运行的 GPU 端点会继续产生费用。 通过部署文本转语音模型,您使用 SageMaker AI 上的 AWS vLLM-Omni DLC 在模型仍在生成音频时流式传输音频。此示例展示了专用 AWS DLC 如何支持执行和流式传输模式不同于通用文本生成的多模态模型。结合之前的 vLLM 语音转文本示例,这些示例展示了互补的路径:将麦克风音频流式传输到转录中,然后将应用程序的文本响应以语音形式流式返回。第 2 部分将展示如何将同一 DLC 系列用于图像和视频生成。 试用代码示例,然后浏览 vLLM-Omni DLC 文档和 SageMaker AI 双向流式传输开发人员指南,以将该模式应用于其他受支持的多模态模型。 作者感谢 Zhuofu Bai、Ayush Sharma、Christian Kamwangala 和 Jon Chua 对解决方案和发布流程的贡献。 Yadan 是 AWS 深度学习容器团队的软件开发工程师。她构建的容器为 Amazon SageMaker AI、Ama
匹配字段正文
