以下文章来源于中国证券报,记者杨洁,原文发布于 2026 年 11 月 18 日。

“如果说,训练大模型对算力的需求是个泳池,那么做模型推理服务所需要的算力则是条河流,它没有明确‘边界’,奔涌不息。”北京硅基流动科技股份有限公司创始人、CEO 袁进辉在接受中国证券报记者专访时这样形容眼前的形势:智能体的规模化应用,正在改变算力需求的增长动力,模型一旦进入日常使用,Token(词元)日复一日消耗,推理算力的需求就停不下来,用于训练的算力反而是阶段性的。在他看来,推理算力的供需曲线至今仍然陡峭,“供不应求的态势大概率还要维持两三年”。

这正是硅基流动所站的位置——做芯片、模型和应用之间的 AI 基础设施,把分散、异构的算力适配、编排成标准化 Token 服务,让用户更好地把模型用起来。目前其平台单日峰值 Token 吞吐已进入万亿量级,注册用户超过 1000 万,服务了超 10000 家企业客户。

专注 AI 基础设施

袁进辉师从我国人工智能领域奠基人之一的张钹院士,是 AI 领域的“老兵”。在清华大学计算机系读博期间,袁进辉主要做算法相关研究,而在微软亚洲研究院的那些年,也正是全球算法研究领域风起云涌、明星辈出的阶段。但他后来的两次创业,却完全转向了 AI Infra(人工智能基础设施)系统层方向。这个转向,既基于对自我优势的清醒认知,也潜藏着实现行业“影响力”的追求。

“做算法,灵感和运气非常重要;做系统软件,更重要的是耐心,要想看到最终效果,就得靠日积月累写代码。”袁进辉对自己的判断很直白,他觉得自己在算法上冲到最顶尖把握不大,于是选了攻坚系统层。同时,他认为,两者形成壁垒的方式也有差别,系统层有无穷的工程细节,这种积累在商业上更容易形成护城河。

这是他十年前第一次创业做 OneFlow 的出发点。袁进辉的判断是,模型会越做越大,走向超大规模,现有框架支撑不住,必须重构底层架构。然而 2016 年,主流模型都还停留在千万级参数规模,国内很少有人相信大模型有一天会变得巨大。OneFlow 创立后最早实现“让分布式多机多卡训练大模型像使用单卡一样简单”,这套理念后来被 PyTorch 等主流框架跟进。但 OneFlow 并没有走完商业闭环,2023 年先被王慧文的光年之外收购,随后又并入了美团。

一年之中经历两次并购,不少企业向袁进辉抛出橄榄枝,但一丝不甘最终还是把他推回创业之路。袁进辉的遗憾在于:“虽然 OneFlow 被并购也算对投资人有所交代,但并没有走完独立的商业闭环,相当于我们很早就看见模型进化的趋势,也为此‘磨了刀’,但刀却没有直接砍向果实。”

2023 年 8 月硅基流动成立,第二次出发,袁进辉瞄准了推理赛道,同时也吸取了上一段创业的经验:“第一次创业,是先从 idea 出发,做出技术产品,再去找市场;第二次创业,我们决定先从市场需求出发,再反推我们的优势。”他算了一道数学题认为,训练的算力用量有阶段性、有边界,但推理的用量没有边界。同时,他看到国内“百模大战”正酣,已经不缺一家大模型公司,缺的是让模型被用起来的中间层,“硅基流动要解决的,是怎么让终端场景和用户更好地把模型用起来的问题”。

复盘两次创业,采访中,袁进辉多次谈到战略判断的时机和节奏。OneFlow 的方向没错,但早了行业需求好几年,可能“生不逢时”;这一轮硅基流动选择做推理基础设施,恰好“生逢其时”,需求的潮水恰好在身后涨了起来——模型落地、应用铺开,推理算力的需求跟着爆发。国家数据局数据显示,今年 3 月,我国日均 Token 调用量突破 140 万亿,较 2024 年初增长超千倍。前一次磨过的“刀”,这一次真正“切”到了市场推进的节奏上。

在芯片、模型、应用之间架桥

硅基流动被全行业看见,是在 2025 年春节。DeepSeek V3 开源后迅速发酵,全网算力告急。硅基流动联手华为,把 DeepSeek V3 大规模部署在昇腾 910B 上。“我们春节没放假,初三就把服务上线,大量用户一下子涌了进来,这是全行业第一个在国产芯片上这么大规模地跑大模型的案例。”袁进辉说。

外界看到的是硅基流动一炮打响,但看不见的是在机会来临前的研判和投入。袁进辉回忆,2024 年 DeepSeek 发过 V2 和 V2.5 两版模型,当时并未引发太多关注,只是有不少开发者反馈编程方面不错。“我们觉得值得研究,花了好几个月来回沟通把架构搞通。正是当时的适配过程,让硅基流动团队能够在 2025 年 DeepSeek V3 发布后快速完成适配。”

袁进辉表示,华为当时还有很多算力闲置,也非常希望把国产卡更好地用起来,因此双方在关键窗口期“一拍即合”。在此之前,国产算力还没有在推理场景大规模跑通。硅基流动率先上线了基于昇腾云CloudMatrix 超节点服务的 DeepSeek-R1 推理服务,一下子把几十万卡给激活了,使用大规模专家并行方案,通过多专家负载均衡和通信优化,实现高吞吐及更高性能。

袁进辉表示,国产算力芯片的主要差距体现在生产制造和软件生态两个层面,“生产制造决定的是物理表现天花板,就像马路修多宽,是四车道还是八车道,决定了能并排开几辆车;而马路上的车流量怎么样、大家是不是开得又快又稳又安全,要借助交通指挥软件的协同指挥。”他坦言,当前国产算力芯片在访存速度上的确存在差距,会影响“吐字速度”。目前,硅基流动和业界合作伙伴联合通过异构混布的方式,尽可能实现使用效率和用户体验的提升,“通过系统软件把不同性能的芯片放到其最合适的位置,用系统问题解决单颗芯片的短板,实现整体效能最大化。”

把单颗芯片用好之后,下一层问题是解决算力碎片化的挑战。在袁进辉看来,算力网,就是 AI 时代的“电网时刻”。“电网之所以伟大,不仅仅有主网架,还因为有无数的‘变压器和插座’。‘变压器和插座’主要解决三个痛点:其一,‘插座’不统一,电有 220 伏标准电压,但算力没有,英伟达、昇腾、沐曦、摩尔线程各有各的软件栈和生态;其二,供需错配,最隐蔽的是架构错配,账面算力够了、集群也点亮了,但真跑目标模型时可能才发现跑不动;其三,计量有了、标准还缺,Token 已是公认计量单位,但它只计量数量,品质标准和成本口径都还没有。这几个痛点,需要中间层 AI Infra 来解决。”

中间层的意义还体现于在芯片和快速迭代的模型之间进行“弥合”,让算力利用率最大化。袁进辉表示,芯片迭代的节奏比较慢,从设计到量产通常需要一两年,硬件基本定型,但模型和应用的演化非常快,其间差异全靠中间层软件来搞定,“打个比方,芯片就像是一个盒子,形状是固定的,但模型就像是橡皮泥,没有形状,通过软件就能把橡皮泥捏成适合盒子的形状,放进去,把盒子用满。”

算力供求曲线依然陡峭

袁进辉把训练的算力需求比作泳池,把推理的算力需求比作河流。根据袁进辉的观察,目前显然处于这条河流的“汛期”。他判断明确,今年整体都供不应求,每家产能都不足。产能建设落地需要时间,最近两三年都会是供需关系主导 Token 市场价格的情况。

这样的态势明确体现在硅基流动的招股书上,其平台规模快速扩容:截至 2026 年 4 月,平台注册用户突破 1028 万,日均 Token 吞吐量达到 5785 亿,单日峰值超过万亿级别;公有云付费开发者达到 71.6 万家,专属实例企业客户从 2024 年的 7 家增长至 2025 年的 49 家,单客户平均收入提升 248%。

“长期来看,伴随模型技术进步,算力产能供给充分,Token 价格一定会降下来,让更多人使用,进入规模经济时期,和过去的电、水以及流量资费一样。”袁进辉认为,硅基流动赚取的并非成本的绝对值,而是效率提升的部分,同样的投入产生更多的 Token,价值就不随价格波动而转移。

开放独立是硅基流动从成立起的定位。袁进辉强调,不同于云厂商或模型厂的“全家桶”策略,他们不给客户限制某款芯片、某个模型,算力来源也比较多元化,专注给用户提供“开箱即用”的 Token。

当更多开发者和中小企业更容易地调用模型,当国产芯片的可用性又往前迈了一步,这些真实而又具体的价值,正是袁进辉创业之初想要实现的影响力。人工智能方兴未艾,算力的河流仍在奔涌,他坦言,身处这个行业“没有人不焦虑”,但看长周期、看趋势,焦虑会少一些。没有人能提前画好终点,但“做长期难而正确的事情”,至少提供了方向和锚点。

点击「阅读原文」,查看专访原文。

Logo

作为“人工智能6S店”的官方数字引擎,为AI开发者与企业提供一个覆盖软硬件全栈、一站式门户。

更多推荐