热点事件历史事件

AWS 发布 SageMaker TTS 自动扩缩容实测配置法

1 篇报道1 个报道来源8 天前更新

先了解这件事

AI 综述

AWS 在 Amazon SageMaker AI 实时端点上部署了 82M 参数的 Kokoro-82M 自定义容器，用实测得到的单实例最高并发 Q_max 和一次扩容端到端耗时 T_total，通过算术推导出扩容阈值、缩容阈值和两个冷却时间，以替代凭猜测设定 TTS 自动扩缩容目标值。该方法要求账号具备创建 IAM 角色、S3 桶、ECR 仓库和 SageMaker AI 资源的权限，并在扩容测量前为 ml.g5.xlarge 预留至少一个高于基线的服务配额空位。示例容器固定使用带已知漏洞 PYSEC-2026-2286 的旧版 PyTorch，该漏洞在 torch 2.10.0 中修复。清理步骤不会清空缓存模型权重的 S3 桶，也不会删除存放容器镜像的 ECR 仓库，因为二者可跨模型共享。

AI 根据报道生成 · 8 天前更新

最新进展10月23日 00:30

别再猜 Amazon SageMaker AI 上 TTS 的自动扩缩容目标值

报道时间线

沿着报道，了解事件的不同侧面。

10月23日

00:30
AWS Machine Learning Blog
别再猜 Amazon SageMaker AI 上 TTS 的自动扩缩容目标值
针对自托管 TTS 端点自动扩缩容目标值靠猜的问题，AWS 在 Amazon SageMaker AI 实时端点上部署 82M 参数的 Kokoro-82M 自定义容器，用实测的 Q_max（单实例在 SLO 内可承受的最高并发）和 T_total（一次扩容端到端耗时）通过算术推导出扩容阈值、缩容阈值和两个冷却时间。

本事件热度走势

可比范围当前: 3
可比范围峰值: 410月24日 08:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。