AssemblyAI 用 EC2 Spot 降语音推理成本七成

AWS 发布技术博客称，AssemblyAI 在生产环境中用 Amazon EC2 Spot 实例运行 GPU 语音转文字推理，推理计算成本比按需定价节省 70%。 其架构基于 Amazon ECS、EC2 Spot 和 Amazon SQS，混合使用 Spot 与按需实例，覆盖多个 NVIDIA GPU 实例系列，每块 GPU 只运行一个推理模型，规模达数千实例。Spot 实例收到 2 分钟中断通知后触发重试流程；AWS 称对终端客户的影响只是处理时间略有增加，转写仍能完成并正常交付。 上述节省与影响均为 AWS 博客中的说法，尚未给出独立验证数据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。