DeepSeek 把支撑自家 API 的推理引擎 DeepInfer 整体开源了。最值得注意的不是"开源"这个动作本身,而是它公布的硬件适配名单:英伟达的 GPU 与中国华为的昇腾芯片被放在同等位置。对一家长期被指向依赖英伟达算力的公司来说,这份名单本身就是一份表态。

DeepInfer 面向 DeepSeek 系列模型做推理加速。按 Omdia 分析师 Lian Jye Su 的说法,它的直接价值是让企业在同样的推理负载下少用 GPU——任务周转更快,单位成本更低。对在私有化、本地部署环境里跑 DeepSeek 模型的企业,这是实打实的账目改善;而用其他模型的企业,市面上已有英伟达 TensorRT-LLM 这类开源推理引擎可选。

DeepSeek 为什么要开源?J. Gold Associates 总裁 Jack Gold 的判断是,这既是市场叙事,也是现实利益:把自己塑造成这一领域的领跑者,对 DeepSeek 有利,对中国 AI 整体形象也有利。他同时指出,引擎跑在中国芯片厂商华为的硬件上,对华为是加分项——华为正努力把自己建成英伟达之外一个可信的替代选项。

但名单并列不等于实力并列。Su 提醒,DeepSeek 至今仍依赖英伟达芯片,这恰恰说明华为在某些方面仍落后于英伟达,尽管多数中国厂商都希望减少对美国 AI 芯片巨头的依赖。换句话说,DeepInfer 的"双兼容"更像是在为两种算力底座同时留门,而不是宣告替代已经完成。

开源对 DeepSeek 还有一层自我定位的意味。Su 形容这家公司"对创新相当执着,也对把创新开源出去相当执着"。他还给出一个用户画像:已经在用 DeepSeek 而非其他模型的企业,通常是对成本更敏感的那一类——DeepInfer 正好接住这群人的诉求。

外部环境并不平静。本周美国禁止联邦机构使用 DeepSeek,中方回应称这是将技术政治化,两国在技术领域的紧张继续升温。在这一背景下开源推理引擎,等于把最核心的服务链路交给外部审视与复用。

对开发者而言,实际问题是:DeepInfer 能否在自有集群上把每卡吞吐推高、把延迟压下来,以及昇腾路径的成熟度究竟如何。这两点,将决定这次开源是姿态,还是真正可落地的降本工具。

Logo

作为“人工智能6S店”的官方数字引擎,为AI开发者与企业提供一个覆盖软硬件全栈、一站式门户。

更多推荐