跳到正文
AWS Machine Learning Blog· Giuseppe Zappia·· 3 小时前AI 评分40

在 Amazon SageMaker AI 上用知识蒸馏构建高效智能体

Build efficient agents with knowledge distillation on Amazon SageMaker AI

AI 导读

AWS 介绍如何用序列级知识蒸馏(SeqKD)在 Amazon SageMaker AI 上微调购物智能体:由前沿教师模型生成多步轨迹,仅保留能完成任务的成功样本,再以监督微调训练小模型。SeqKD 只需教师模型的文本输出,无需 logits 或强化学习基础设施,因此适用于仅提供 API 的闭源教师模型。DeepSeek-R1 蒸馏模型即用大模型推理轨迹微调 Qwen 和 Llama 小模型。

来源:AWS Machine Learning Blog · aws.amazon.com