跳到正文
AWS Machine Learning Blog· Sai Pavan Kasani·· 3 小时前AI 评分38

影响 Amazon Bedrock 成本的四个推理选项

Four Amazon Bedrock inference choices that affect cost

AI 导读

Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置会在不改模型与提示词的情况下改变 token 处理量和计费费率。

来源:AWS Machine Learning Blog · aws.amazon.com