跳转到正文
返回快讯

快讯

DeepSeek开源自家推理框架🚀

图解

共 6 张

  1. 封面:大标题「DeepSeek 开源 自家推理框架」,顶部日期标签「2026.10.20 开源」,大号数字 155 万亿(单集群每天处理 token),底部写每卡每小时收入 38 美元(按谷价)
    01 06
  2. 「开源了什么」:DeepInfer 是线上服务用的那套推理框架,三条要点解释推理框架、V4.1 Flash 线上服务、deepseek-recipe
    02 06
  3. 「能用在哪」:一张表四行,支持模型、支持硬件(英伟达 SM100、华为昇腾 950)、开源协议 Apache 2.0、开源范围离线推理
    03 06
  4. 「官方披露的账本」:两张数据卡 155 万亿 token/天、38 美元/卡/小时(按谷价),深色卡写起步规模 64 卡 Prefill + 64 卡 Decode
    04 06
  5. 「没开源的部分」:缓存系统、分离部署、负载均衡三张卡,并说明暂未开源的原因及最初基于 vLLM
    05 06
  6. 「我的看法」:大模型拼到最后拼的是成本,并注明 155 万亿、38 美元为官方自述
    06 06

2026 年 10 月 20 日,DeepSeek 开源大规模推理框架 DeepInfer,用于运行 DeepSeek-V4.1-Flash。项目采用 Apache 2.0 许可证,目前列出的支持硬件是 NVIDIA SM100 GPU 和华为昇腾 950 NPU。官方仓库

推理框架负责组织模型计算与任务调度。这次发布提供离线推理能力;要搭建完整在线服务,仍需补齐缓存系统、不同计算阶段的分离部署及负载均衡等配套。现有开源代码并不等于官方整套在线服务。官方说明

DeepSeek 在部署说明中披露,其单一生产集群每天服务约 155 万亿 token,按其所称的“谷价”(valley pricing)计算的收入为每张 GPU 每小时 38 美元。这些数字属于官方生产环境自述,未经本文独立复测,反映特定部署和业务条件;收入尚未扣除成本,不能据此推算其他部署的利润。官方部署说明

点评

成本是大模型服务竞争中绕不开的一环。把推理代码和运行“账本”一起公开,对做相关服务的团队很有参考价值。不过,这套项目面向的数据中心级硬件和部署条件,决定了它不能被理解为个人电脑上开箱即用的方案。

参考资料