DeepSeek 开源生产推理栈 DeepInfer,单集群日处理 155T tokens
DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer,并披露单集群日处理 155T tokens、96% 输入缓存命中、非高峰时段每加速器小时 38 美元收入等数据。
推荐理由:读者可看到 DeepInfer 公开了哪些生产推理组件、哪些仍留在内部,以及 vLLM 复现结果如何限定其效率优势。
公司与模型
DeepSeek(深度求索)的模型发布、开源权重、技术报告与 API 价格变化。
10 条精选近 30 天 4 条共收录 29 条
DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer,并披露单集群日处理 155T tokens、96% 输入缓存命中、非高峰时段每加速器小时 38 美元收入等数据。
推荐理由:读者可看到 DeepInfer 公开了哪些生产推理组件、哪些仍留在内部,以及 vLLM 复现结果如何限定其效率优势。
DeepSeek 发布新模型 DeepSeek-V4.1-Flash-1017,网页端、APP 与 API 已同步切换,官方称其针对 DeepSeek Harness 做了专项优化,在提升代码与 Agent 任务表现的同时缩短任务运行时间、减少输出消耗和 token 费用。
推荐理由:新模型在基准测试中提升的同时压缩了任务运行时间和输出长度,读者可据此判断 Agent 任务的成本边界变化。
DeepSeek 发布 DeepSeek-V4.1-Flash-1017,已在官网、App 和 API 上线,并在 Hugging Face 与 ModelScope 开源模型权重。
推荐理由:读者可对比 DeepSeek 新 Flash 模型在智能体编码任务上的分数与单任务成本,并了解其搜索 API 的开放方式。
DeepSeek V4.1 Flash 升级至 DeepSeek-V4.1-Flash-1017,官方网页端与 APP 同步更新,API 调用方式与价格不变,仍使用 deepseek-flash 访问最新模型。
推荐理由:官方给出新版本在多项基准上的分数与运行时间变化,可据此判断升级后的性能与成本取舍。
DeepSeek 正式发布 DeepSeek-V4.1-Flash,这是其全新模型结构系列中尺寸最小的模型,具备原生多模态视觉理解能力。该模型已同步上线 DeepSeek API,将模型名改为 deepseek-flash 即可调用,API 价格同步下调;旧版 V4 Flash 与 V4 Flash Vision Exp 已下线,旧模型名暂时路由到 V4.1 Flash。
推荐理由:官方更新日志给出新模型的评测分数、API 调用方式和价格下调,可据此判断替换旧版的成本与迁移路径。
DeepSeek 上线实验性多模态视觉理解模型 DeepSeek-V4-Flash-Vision-Exp,可通过 model='deepseek-v4-flash-vision-exp' 在 API 调用。
推荐理由:官方给出实验性视觉模型在多项 Agent 基准上的分数,并说明其纯文本能力与正式版持平。
DeepSeek-V4-Pro 正式版已在 APP、网页端和 API 同步上线,API 调用方式不变,模型名设为 deepseek-v4-pro 即可使用。官方称正式版大幅增强 Agent 能力,并给出 HLE(wo / w tools)42.7/60.0、Terminal Bench 2.1 87.9、NL2Repo 61.5 等基准数据。
推荐理由:官方更新日志列出 V4-Pro 正式版的 Agent 基准成绩、Responses API 适配与三档思考强度,便于对照现有工作流评估升级。
DeepSeek-V4-Flash 正式版 API 上线公测,模型名设为 deepseek-v4-flash 即可调用,调用方式不变。
推荐理由:官方更新日志列出正式版 V4-Flash 在多项 Agent 基准上的成绩,并说明与 Preview 的结构一致、仅重做后训练。
DeepSeek API 已支持 V4-Pro 与 V4-Flash,兼容 OpenAI ChatCompletions 接口与 Anthropic 接口,base_url 不变,model 参数需改为 deepseek-v4-pro 或 deepseek-v4-flash。
推荐理由:原文给出新模型名与接口兼容方式,并明确旧模型名的停用时间,便于开发者安排迁移。
DeepSeek 将 deepseek-chat 和 deepseek-reasoner 两个 API 模型升级为 DeepSeek-V3.2。其中 deepseek-chat 对应 DeepSeek-V3.2 的非思考模式,deepseek-reasoner 对应其思考模式。
推荐理由:官方更新日志说明两个 API 模型名分别对应 V3.2 的思考与非思考模式,便于开发者调整调用方式。