2026 年 10 月 20 日,DeepSeek 开源大规模推理框架 DeepInfer,用于运行 DeepSeek-V4.1-Flash。项目采用 Apache 2.0 许可证,目前列出的支持硬件是 NVIDIA SM100 GPU 和华为昇腾 950 NPU。官方仓库
推理框架负责组织模型计算与任务调度。这次发布提供离线推理能力;要搭建完整在线服务,仍需补齐缓存系统、不同计算阶段的分离部署及负载均衡等配套。现有开源代码并不等于官方整套在线服务。官方说明
DeepSeek 在部署说明中披露,其单一生产集群每天服务约 155 万亿 token,按其所称的“谷价”(valley pricing)计算的收入为每张 GPU 每小时 38 美元。这些数字属于官方生产环境自述,未经本文独立复测,反映特定部署和业务条件;收入尚未扣除成本,不能据此推算其他部署的利润。官方部署说明
点评
成本是大模型服务竞争中绕不开的一环。把推理代码和运行“账本”一起公开,对做相关服务的团队很有参考价值。不过,这套项目面向的数据中心级硬件和部署条件,决定了它不能被理解为个人电脑上开箱即用的方案。
参考资料
- DeepSeek:DeepInfer 官方仓库与 README(核对于 2026-10-20)
- DeepSeek:V4.1 Flash Inference Deployment Q&A(2026-10-20 版本)