AWS 改用实测数据为 SageMaker AI TTS 设定自动扩缩容策略
热点事件持续更新
AWS 改用实测数据为 SageMaker AI TTS 设定自动扩缩容策略
2 篇报道1 个报道来源34 分钟前更新
先了解这件事
AI 综述
AWS 宣布停止为 Amazon SageMaker AI 上的 TTS 服务猜测自动扩缩容目标，改为通过实测数据推导扩缩容阈值与冷却时间。 以 Kokoro-82M（8200万参数）模型为例，AWS 提出先测量 SLO 内最高并发数 Q_max 和扩缩耗时 T_total，再通过算术方法计算自动扩缩容的具体参数。AWS 称该方法能替代原先的猜测做法。 同日，AWS 还发布教程介绍如何在 SageMaker AI 上通过双向 WebSocket 流逐句合成 Kokoro-82M 语音，端到端测试显示流式模式比批处理方式的首音频延迟快 2.4 至 3.5 倍。
AI 根据报道生成 · 18 分钟前更新
最新进展10月23日 01:45
在 Amazon SageMaker AI 上流式调用 Kokoro TTS 降低 AI 语音代理延迟事件进展
2 个进展
- 10月23日 01:45 · 1 篇报道AWS 发布低延迟语音 Agent 流式合成教程AWS Machine Learning Blog：在 Amazon SageMaker AI 上流式调用 Kokoro TTS 降低 AI 语音代理延迟
- 10月23日 00:30 · 1 篇报道SageMaker AI上TTS模型自动扩缩容的测量方法AWS Machine Learning Blog：停止为 Amazon SageMaker AI 上的 TTS 猜测自动扩缩容目标
报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- AWS Machine Learning Blog精选在 Amazon SageMaker AI 上流式调用 Kokoro TTS 降低 AI 语音代理延迟
AWS 博客介绍如何在 SageMaker AI 上部署 Kokoro-82M TTS 并通过双向 WebSocket 流逐句合成语音，避免等待完整响应再开始合成的延迟。端到端测试显示，流式模式比批处理方式的首音频延迟快 2.4 至 3.5 倍。对于已有 SSE 管道的场景，base64 编码音频是实用选择；从零构建时，推荐在同一会话中复用二进制音频与 JSON 控制帧的传输方式。
- AWS Machine Learning Blog停止为 Amazon SageMaker AI 上的 TTS 猜测自动扩缩容目标
AWS 提出用实测数据替代猜测，为 Amazon SageMaker AI 上的 TTS 服务建立自动扩缩容策略。以 Kokoro-82M（8200万参数）为例，通过实测 Q_max（SLO 内最高并发）和 T_total（扩缩耗时），由算术推导得到扩缩容阈值与冷却时间。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。