AWS Machine Learning Blog· Sai Pavan Kasani·· 3 小时前AI 评分38
影响 Amazon Bedrock 成本的四个推理选项
Four Amazon Bedrock inference choices that affect cost
AI 导读
Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置会在不改模型与提示词的情况下改变 token 处理量和计费费率。
来源:AWS Machine Learning Blog · aws.amazon.com