AWS Machine Learning Blog· Sitaraman Vijay Krishna·· 4 小时前AI 评分34
用 Amazon Bedrock 和 LiteLLM 构建自助式 LLM 网关
Building a self-service LLM gateway with Amazon Bedrock and LiteLLM
AI 导读
在 AWS Fargate 上运行 LiteLLM，可将 Amazon Bedrock 封装为 OpenAI 兼容 API，让开发者用单一 base URL 和专属 API key 调用 Claude Sonnet、Claude Haiku 等模型。
来源：AWS Machine Learning Blog · aws.amazon.com