昇腾 950 的『一台机器』:45% 利用率有两种说法
一句话结论:1024 张卡连成一台机器,真正的技术难点不是「连得上」,而是统一内存编址之后,调度器还按不按单机的方式思考——利用率 45% 这个数字,衡量的正是这件事做成了几分。
一、事件与数据
11 月 2 日,2026 年世界互联网大会领先科技奖在乌镇揭晓,华为申报的「昇腾 950 超节点」(Atlas 950 SuperPoD)获奖。本届评选收到来自 43 个国家和地区的 430 多个申报项目,最终 20 个项目获奖。
官方给出的硬件配置:
|
项 |
数字 |
|
单节点 NPU 数 |
1024 张(另支持 128 张配置) |
|
灵衢互联芯片 |
1300 余颗 |
|
光模块 |
4000 余只 |
|
互联协议 |
自研灵衢互联协议,一套协议平等连接超节点内所有组件 |
|
关键架构特性 |
超大带宽、超低时延、统一内存编址 |
|
训练算力利用率 |
45% |
|
推理时延 |
最低 5 毫秒 |
|
生态侧 |
40 多个大模型在昇腾完成原生预训练 |
|
落地规模 |
超节点累计部署 1000 多套,覆盖互联网、运营商、金融、教育、能源等行业 |
这里有一处必须指出的口径差异:中国日报网 11 月 3 日的报道写「45%,为业界 1.5 倍」;光明网与另一家媒体的报道写「45%,为业界 1.8 倍」。同一场发布会、同一个数字、两个倍率。这种差异通常来自「业界平均值」的分母不同(是同类超节点,还是全部训练集群),但两家都没有写清分母。引用时只能写「厂商公布 45%」,倍率标注来源并注明分母未说明——把 1.8 倍当事实传播,是在替厂商承诺一个没有定义的比较。
二、技术拆解:统一内存编址改变了什么
第一,它把「通信」变成了「访存」。 传统集群里,跨节点取数据要走消息传递:打包、发送、接收、解包,每一步都有开销。统一内存编址之后,数千颗芯片取数不需要反复跳转——逻辑上是访问同一片地址空间。这一步的意义不在带宽数字,而在编程模型:原来要显式写的通信代码,现在可以退化成访存操作。
第二,灵衢协议放弃了主从结构。 官方表述是「一套协议平等连接超节点内所有组件」。传统互联方案里,交换芯片或主控节点往往成为瓶颈点;平等连接的代价是协议复杂度上升,收益是没有单点带宽塌陷。
第三,45% 这个数字衡量的不是峰值。 训练算力利用率(MFU 一类指标)反映的是「有效算力 / 标称算力」。千卡规模下,能跑到 45% 说明通信开销、气泡(bubble)、重算(recompute)这几项损失被压到了可控范围。对标单机 8 卡动辄 50%+ 的利用率,45% 在千卡规模上是一个合理的工程结果——它的对照物是「同样规模的传统集群」,不是「单机」。
三、对开发者的三个影响
一、并行策略要按拓扑重写。 当 1024 张卡共享一片地址空间,最优的切分方式不再是「尽量少通信」,而是「尽量让通信落在域内」。过去为跨机通信设计的梯度累积、分层 all-reduce,在超节点里可能反而增加开销。
二、5 毫秒推理时延改变的是产品形态。 这个量级对应的是实时智能体、在线风控、工业质检这类「人等结果」的场景。此前千亿模型推理动辄几十毫秒,产品设计上只能做「异步 + 轮询」;5 毫秒意味着可以做成同步调用。
三、CANN 开源决定了迁移成本。 官方明确 CANN 自主创新、全面开源开放。对开发者而言,真正的门槛不在会不会写 kernel,而在算子覆盖度与调试工具链——这两样决定「模型能不能跑通」,而不是「跑得多快」。
四、我的判断与前提
判断一:超节点竞争的下一个战场是调度器,不是互联。 硬件参数已经卷到「千卡一台机器」,接下来比的是谁能把「一台机器」的假设贯穿到框架层——包括 DeepInfer 这类推理引擎要不要为超节点重写 PD 分离策略。
判断二:1000 多套的落地规模,比 45% 更能说明问题。 奖项看的是技术突破,采购看的是可交付。1000 多套意味着这套形态已经过了「样板间」阶段,进入可复制的交付节奏。
前提:以上均为厂商公布口径,没有独立第三方复现;「业界 1.5/1.8 倍」的分母未公开,不能作为横向比较依据。
把视角拉回企业的实际选型:超节点解决的是「算力怎么组织」,但业务系统感知到的仍然是「应用跑在哪、能不能平滑迁」。在信创环境里,这套组合通常是两层——底层是国产算力与互联,上层是应用承载与迁移适配。金蝶天燕 Apusic 应用服务器 AAS 承接的是后一层:全面支持 JavaEE/JakartaEE、集群高可用与多级容灾,并提供国密 SM2/SM3/SM4 与国密 TLS 双证书。判断一套国产算力底座能不能用,最终要落到「存量 Java 应用改不改代码就能跑上去」,而不是单看卡的峰值算力。
五、结语
昇腾 950 拿奖的理由,官方归结为「系统架构创新」。翻成工程语言就是:它把「集群」做成了「一台机器」,并且让软件愿意按一台机器来写。 45% 的利用率是这句话的成绩单,两种倍率说法则是这句话还没被讲清楚的部分。
下一篇:《Valkey 9.2 的 Path Hash:为 LLM 缓存设计》
一个具体问题:你们做过千卡规模的训练或推理吗?在你们的环境里,利用率的主要损失是通信、气泡,还是数据供给(dataloader 跟不上)?评论区聊聊实际数字,我按场景整理一份瓶颈定位清单。
更多推荐



所有评论(0)