AWS Machine Learning Blog· Joseph Cottingham·· 1 小时前精选AI 评分63
在 Amazon SageMaker AI 上流式调用 Kokoro TTS 降低 AI 语音代理延迟
Stream low-latency speech from AI agents using Kokoro TTS on Amazon SageMaker AI
AI 导读
AWS 博客介绍如何在 SageMaker AI 上部署 Kokoro-82M TTS 并通过双向 WebSocket 流逐句合成语音,避免等待完整响应再开始合成的延迟。端到端测试显示,流式模式比批处理方式的首音频延迟快 2.4 至 3.5 倍。对于已有 SSE 管道的场景,base64 编码音频是实用选择;从零构建时,推荐在同一会话中复用二进制音频与 JSON 控制帧的传输方式。
推荐理由
给出在 SageMaker AI 上流式调用 Kokoro TTS 的完整实现路径与两种传输方案的成本对比。
来源:AWS Machine Learning Blog · aws.amazon.com