AWS 博客：用实测数据替代猜测，为 SageMaker AI 上的 TTS 模型制定自动扩缩策略
AWS Machine Learning Blog 发文指出，团队在 Amazon SageMaker AI 上部署自定义文本转语音模型时，常凭猜测设定自动扩缩阈值，猜错会导致 GPU 浪费或违反延迟 SLO。文章以 Kokoro-82M 自定义容器为例，通过两个实时端点测量值 Q_max 和 T_total 推导出经过测量的自动扩缩策略，而非依赖猜测。
为什么值得看：企业负责人可据此了解：TTS 等推理服务的扩缩配置可以基于实测指标而非经验猜测，从而在 GPU 成本与延迟 SLO 之间取得平衡。需注意该方法是 AWS 平台与特定模型下的示例，实际效果需结合自身负载测量验证，文中未给出量化收益。