DeepSeek 把"吃饭的家伙"开源了：DeepInfer，同时支持英伟达和华为昇腾

10 月 20 日，DeepSeek 把自家生产环境用的推理引擎 DeepInfer 开源了，Apache 2.0 协议。这是它第一次把"整台发动机"而不是"零件"交出来——去年 4 月它还说过不开源，理由是代码和内部集群工具耦合太深、没人力维护。现在改主意了。

先说它是什么：推理引擎是"把训练好的模型 serve 给用户"的软件——决定请求怎么切分到各张卡上、怎么批量处理、答案吐多快。AI 公司每答一句话的成本，一大半花在这上面。DeepSeek 能一直把价格打下来，靠的就是这套东西。

这次开源的料很足（来自 GitHub README，多家媒体交叉）：

• 只支持 DeepSeek-V4.1-Flash 一个模型，离线推理模式；
• 两套硬件：英伟达 SM100（Blackwell）GPU 和华为昇腾 950 NPU，同等优先级——这是第一家把国产芯片和英伟达放在同一优先级的 frontier lab；
• 技术栈：站在 vLLM 肩膀上（README 原话"originally built primarily on vLLM"，另借鉴 SGLang 和 TensorRT-LLM），往上叠了自家近年的系统研究：FlashMLA、DeepGEMM、DeepEP 等定制算子，MoE 并行，投机解码（DSpark），确定性采样，结构化输出（regex/JSON Schema/EBNF）；
• 生产数据（DeepSeek 自报，未独立验证）：单个集群每天 155 万亿 token，输入缓存命中率 96%；
• 没给的东西也很诚实：KV 缓存体系、prefill/decode 分离、负载均衡都没开源——生产级 serving 还得自己搭。

上线几小时就冲上 GitHub 热榜（aiweekly 援引 GitHub 数据称数小时内 star 破 8,000；各媒体快照口径略有出入，此处不引精确值）。

三个判断：

一是"推理成本=定价权"。谁把推理做便宜，谁就有权定价。DeepSeek 把发动机开源，等于把"低价"这件事 democratize 了——以后小厂也能用接近 DeepSeek 的 serving 效率，API 价格战会更惨烈。

二是昇腾 950 的信号意义。DeepSeek 上周刚说 2026 年底前要在华为芯片上做预训练，这次直接在推理框架里给昇腾一级支持。国产 AI 的"去英伟达"不是喊口号，是先从推理侧把路铺好——推理的量比训练大得多，先把推理跑通，生态就转起来了。

三是对 vLLM/SGLang 生态的冲击。DeepSeek 承诺以后新模型的推理代码都会先落到 DeepInfer。这意味着开源 serving 生态从"社区追着模型跑"变成"原厂直接给答案"——vLLM 们得想想自己的位置了。

时间线注：发布于 10 月 20 日，美国国土安全部下令联邦机构清除 DeepSeek 的第二天。开源是不是对禁令的回应，官方没说，别脑补。

（事实来自 DeepSeek 官方 X 公告（经多家媒体转述）、GitHub README；aiweekly、teslanewswire、glonce、aicoder 多方交叉；生产数据为 DeepSeek 自报；star 数字各媒体快照口径不一，正文未采用精确值。）