先了解这件事
AI 综述
AWS于2026年10月23日发布教程,介绍在Amazon SageMaker AI上为TTS推导自动扩缩容目标的方法。教程以自定义容器在SageMaker AI实时端点部署82M参数的TTS模型Kokoro-82M,用实测的Q_max(单实例在SLO内可承受的最高并发)和T_total(一次扩容端到端耗时)推算扩容阈值、缩容阈值与冷却时间,替代凭猜测设定的目标值。方案基于SageMaker AI原生发布的ConcurrentRequestsPerModel指标扩缩容,避免自定义指标无人上报的隐性故障。目前尚无后续发展。
AI 根据公开报道生成
最新进展 · 正式报道
不再靠猜：Amazon SageMaker AI 上 TTS 自动扩缩容目标的实测方法事件进展
1 个已确认进展
- 来源：AWS Machine Learning
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月23日
AWS Machine Learning一手
不再靠猜：Amazon SageMaker AI 上 TTS 自动扩缩容目标的实测方法
AWS 在 Amazon SageMaker AI 实时端点上以自定义容器部署 82M 参数的 TTS 模型 Kokoro-82M，用实测的 Q_max（单实例在 SLO 内可承受的最高并发）和 T_total（一次扩容端到端耗时）推算扩容阈值、缩容阈值与冷却时间，替代凭猜测设定的目标值。方案基于 SageMaker AI 原生发布的 ConcurrentRequestsPerModel 指标扩缩容，避免自定义指标无人上报的隐性故障。