AWS 详解 Bedrock 四项推理成本参数

AWS 发布教程称，Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置，可在不改模型与提示词的情况下改变 token 处理量和计费费率。 教程给出的操作细节包括：请求 Standard 层级时应填 default 而非 standard；向不支持 Flex 的模型发 Flex 请求会返回 ValidationException，而非静默按 Standard 运行；部分支持的模型还提供隐式提示缓存，无需请求中设置缓存控制即可尝试复用符合条件的提示前缀。 AWS 称，撰写时 us-west-2 区域 Nova 2 Lite 的 Flex 公布费率是 Standard 的一半，其账单也反映了这一点。教程还称可通过响应元数据、日志和账单数据核验各选项的实际效果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。