跳到正文
AWS Machine Learning Blog· Joseph Cottingham·· 1 小时前精选AI 评分63

在 Amazon SageMaker AI 上流式调用 Kokoro TTS 降低 AI 语音代理延迟

Stream low-latency speech from AI agents using Kokoro TTS on Amazon SageMaker AI

AI 导读

AWS 博客介绍如何在 SageMaker AI 上部署 Kokoro-82M TTS 并通过双向 WebSocket 流逐句合成语音,避免等待完整响应再开始合成的延迟。端到端测试显示,流式模式比批处理方式的首音频延迟快 2.4 至 3.5 倍。对于已有 SSE 管道的场景,base64 编码音频是实用选择;从零构建时,推荐在同一会话中复用二进制音频与 JSON 控制帧的传输方式。

推荐理由

给出在 SageMaker AI 上流式调用 Kokoro TTS 的完整实现路径与两种传输方案的成本对比。

来源:AWS Machine Learning Blog · aws.amazon.com