续报10月20日至21日DeepSeek开源DeepInfer一事。开源宣布本身已写入前一日早报;过去24小时更值得单独成篇的,是官方硬件支持矩阵把国产加速器与英伟达旗舰推理SKU写成了对等选项。
据DeepInfer硬件文档:今日已支持NVIDIA SM100(CUDA 13,DEEPINFER_ACCELERATOR=nvidia)与华为Ascend 950(CANN 9.2,DEEPINFER_ACCELERATOR=ascend);默认模型为DeepSeek-V4.1-Flash。Ascend 910C/A3与NVIDIA SM90/H20等仍停留在社区草稿RFC,实现尚未合入,文档明确要求不要按“已支持”安装。基准拓扑示例仍以多卡SM100的Prefill/Decode测量为主,公开性能图尚未给出昇腾侧对等曲线。
同时要看清开源边界:发行版侧重离线推理;KV cache系统、完整的Prefill/Decode分离服务胶水、数据并行负载均衡等生产组件仍列出为缺口。批次不变推理与确定性采样等能力,外媒梳理称在两类硬件上的功能完整度并不完全对称。换言之,“能切换编译后端”不等于“两边已达相同生产SLA”。
产业含义在于推理栈的参照系变化:过去国产芯片常以“补充后端”出现,现在被写进与SM100并列的首发矩阵,会改变云厂商与私有化项目的硬件选型话术——供货、成本、合规可以在同一软件树下讨论。美国行政机构此前要求移除DeepSeek产品的政策环境,也会让“可在昇腾上自托管”的叙事更敏感,但那是部署合规问题,与框架代码本身需分开看。
需要说明的是,昇腾实测吞吐、延迟与能耗仍待第三方复现;本条依据官方硬件页与可核验技术解读整理。
一句话收尾:DeepInfer把“国产卡能不能跑”推进到了“和SM100写在同一张表上”,下一考题是表上的数字能不能跑平。