DeepSeek 以 Apache 2.0 开源推理框架 DeepInfer
热点事件历史事件
DeepSeek 以 Apache 2.0 开源推理框架 DeepInfer
2 篇报道2 个报道来源10 天前更新
先了解这件事
AI 综述
DeepSeek 以 Apache License 2.0 开源了其内部推理框架 DeepInfer。该框架是支撑 V4.1-Flash 模型大规模快速生成回答的服务软件。 DeepSeek 称，未来 DeepSeek 模型的代码也将以开源形式发布；同时还将发布 deepseek-recipe，用于复现官方 API 的 token 处理流程，使自托管部署的行为与官方 API 一致。
AI 根据报道生成 · 8 天前更新
最新进展10月21日 02:56
DeepSeek 开源推理引擎 DeepInfer，支撑 V4.1-Flash 模型服务报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- Latent Space精选DeepSeek 开源生产推理栈 DeepInfer，单集群日处理 155T tokens
DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer，并披露单集群日处理 155T tokens、96% 输入缓存命中、非高峰时段每加速器小时 38 美元收入等数据。
- The DecoderDeepSeek 开源推理引擎 DeepInfer，支撑 V4.1-Flash 模型服务
DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer，该框架是支撑 V4.1-Flash 模型大规模快速生成回答的服务软件。