AI硬件24-一线工程师总结:当前AI硬件四大成熟方向,AI硬件现状全图景速览
基金定投助手:为什么你的基金定投总在追涨杀跌?价值平均法定投引擎 + 综合估值模型+动态再平衡仓位管理,一个单文件 HTML 的免费定投工具-CSDN博客
https://download.csdn.net/download/weitingfu/93339607?spm=1011.2124.3001.6210
本文为《AI 硬件体系深度调研》系列第 24 篇。前面逐篇拆解了芯片、内存、互联的底层逻辑。这一篇把散落的点收拢成面,用四大方向,看清 2025-2026 年 AI 硬件到底成熟到了哪一步。
黄金100字
你是否被各种"最新突破"刷屏,却搞不清当下 AI 硬件到底成熟到哪了?行业报告堆数据,却少有人帮你把现状归纳成几条清晰主线。本文把 2025-2026 的技术现状浓缩为四大方向,让你一眼看清全貌。
读完后你会明白:AI 硬件的"成熟",不是某一项技术的单点突破,而是四条主线同时走到临界点。
一、方向一:制程稳了,架构上位
1.1 制程迭代:从狂奔到稳步
前几年,芯片制程的迭代节奏快得吓人,每一代都带来可观的算力提升。但到了 2025-2026,制程迭代明显趋稳:3-5nm 成为主流,部分先进产品向 2nm 迈进。
制程还在进步,但"摩尔定律式"的狂奔已经放缓。每一代制程带来的收益在递减,成本却在递增,这让单纯靠制程堆算力的路,越来越不划算。
💡 制程趋稳是"汽车发动机从大排量转向调校"——排量(制程)还在涨,但涨得慢了,靠排量取胜的时代过去了。
1.2 制程贡献占比下降:一个关键信号
更值得关注的是:制程对整体性能提升的贡献占比,正在下降。
过去,升级一代制程,性能就能明显上一个台阶;现在,制程能带来的红利越来越少。性能提升的重心,正在从"制程"转向"架构"——怎么设计芯片,比用什么制程造它,越来越重要。
💡 贡献占比下降是"从拼装备到拼战术"——装备(制程)都差不多了,谁战术(架构)高明,谁就能赢。
1.3 架构上位:新的主战场
制程的红利见顶,架构创新成了新的主战场。同样的制程,不同的架构设计,性能能差出好几倍。
这是芯片行业竞争逻辑的根本转变:从"谁能拿到更先进的制程",转向"谁能在同样制程下设计出更好的架构"。架构能力,成了决定芯片竞争力的核心。
💡 架构上位是"从比钢筋到比设计"——钢筋(制程)大家都用同款,楼盖得好不好,全看设计(架构)功力。
1.4 制程的成本账:越先进越贵
制程趋稳,还有一个很现实的原因:越先进的制程,成本越高。
先进制程需要极紫外光刻(EUV)等天价设备,流片费用、研发费用都水涨船高。一颗 3nm 芯片的研发和流片成本,动辄数亿美元,更别说 2nm。这么高的成本,让"无脑追制程"变得不划算,也逼着行业把精力转向架构。
💡 制程成本是"豪车的价格曲线"——越顶配越贵,贵到一定程度,理性人就该想想:这钱花在别处是不是更值。
1.5 2nm:看得见,但门槛极高
2nm 是制程的下一站,技术上已经"看得见",但真正量产的门槛极高。
2nm 需要更先进的晶体管结构(如全环绕栅极 GAA)、更复杂的制造工艺,良率和成本都是巨大挑战。目前只有极少数头部厂商有能力推进 2nm,而且主要面向高端产品。对大多数玩家来说,2nm 是"别人家的风景",不是"自己能上的台阶"。
💡 2nm 是"珠穆朗玛峰"——看得见山顶,但能登顶的只有极少数顶级登山队。大多数人,还是老老实实爬自己够得着的山。
二、方向二:存储全面 HBM 化
2.1 训练标配:HBM3/E 成为"入门门槛"
在 AI 训练领域,HBM3/HBM3e 已经成为标配。高端训练芯片普遍搭载 HBM3 或 HBM3e,单卡容量做到 80-288GB,带宽做到 2.5-8TB/s。
这个数字意味着什么?训练大模型,没有 HBM 就"上不了桌"。HBM 从"高端选项"变成了"入门门槛",存储的带宽和容量,直接决定了训练规模的上限。
💡 HBM3/E 标配是"训练场的入场券"——没有这张券,连比赛的资格都没有。存储,已经从配角变成了门票。
2.2 中端推理:HBM2e 的性价比之选
训练要极致带宽,但推理不必那么奢侈。中端推理芯片,更多选择 HBM2e——带宽够用、成本更低,是性价比之选。
推理对延迟敏感、对成本敏感,但对"极限带宽"的需求不如训练那么苛刻。HBM2e 恰好卡在这个甜点位:既能满足推理的带宽需求,又能控制成本,让推理芯片更有竞争力。
💡 HBM2e 是"够用就好的经济舱"——不追求头等舱的奢华,但舒适度完全够用,票价还便宜一大截。
2.3 边缘设备:定制低功耗 DDR 的天下
到了边缘设备,存储的考量又变了。边缘 AI 设备(手机、IoT、可穿戴)用的是定制低功耗 DDR,而不是 HBM。
边缘设备的算力小、功耗敏感、空间有限,HBM 的高成本和高功耗在这里"杀鸡用牛刀"。低功耗 DDR 配合定制设计,正好满足边缘场景"低功耗、够用、便宜"的核心诉求。
💡 边缘用低功耗 DDR 是"小饭馆用不着大厨房"——几道家常菜,普通灶具就够了,没必要上五星酒店的后厨。
2.4 为什么 HBM 容量一路飙升
观察一个趋势:HBM 的容量从几十 GB,一路涨到 80-288GB,还在往上走。这背后是大模型规模的直接推动。
模型参数量越来越大,单卡要装下更多参数、更多激活值,内存必须跟着涨。内存不够,模型就装不下,训练就做不成。所以 HBM 容量和带宽的飙升,本质上是大模型"胃口"变大的直接映射。
💡 HBM 容量飙升是"饭量跟着体型涨"——人长壮了,碗自然要换大的。模型长胖了,内存自然要扩容。
2.5 存储分层:一场精准的"错峰调度"
存储全面 HBM 化的背后,其实是一套分层体系:训练用 HBM3/E,中端推理用 HBM2e,边缘用低功耗 DDR。
这套分层的逻辑很清晰:不同场景对带宽、容量、成本、功耗的要求不同,存储方案就"量体裁衣"。训练追求极致带宽,推理追求性价比,边缘追求低功耗,各取所需,谁也不浪费。
💡 存储分层是"机场的舱位设计"——头等舱、商务舱、经济舱各就各位。不同预算、不同需求的人,各自买最合适的舱位。
2.6 存储,从"配角"到"主角"
把存储这条线看完整,会发现一个明显的角色变化:存储不再是给算力芯片"打下手"的配角,而是能决定系统成败的主角之一。
存储的容量和带宽,直接划定了模型能跑多大、训练能做多快。谁的存储方案更优,谁的系统整体竞争力就更强。存储的地位,在 HBM 化的浪潮中被彻底抬升了。
💡 存储上位是"从幕后走到台前"——以前是默默搬箱子的场务,现在成了决定演出成败的主角。戏份重了,身价自然涨。
三、方向三:互联高度场景化
3.1 芯片级:>1TB/s 的近身肉搏
互联技术的现状,是"按场景精准匹配"。芯片级互联的带宽已经做到 1TB/s 以上,算力芯片和 HBM 之间的数据通道,宽到惊人。
这个量级的带宽,靠的是先进封装和硅中介层,把内存和算力芯片"焊"在一起。芯片级互联追求的是极限带宽和极限低延迟,因为它直接决定单卡的算力利用率。
💡 芯片级 >1TB/s 是"家里千兆宽带"——距离最短,速度必须最快,否则对不起"同住一个屋檐下"。
3.2 节点级:>3.6TB/s 的高速协同
节点级互联,带宽做到了 3.6TB/s 以上。同一台服务器里的多张卡,通过高速链路(如 NVLink)紧密协同。
节点级带宽比芯片级还高,是因为它要同时喂饱多张卡。一张卡的带宽是一份,八张卡就要八份,交换芯片和高速链路必须扛得住这个聚合流量。
💡 节点级 >3.6TB/s 是"楼里的大动脉"——一栋楼住的人多,公共管道必须够粗,否则高峰时段就堵。
3.3 集群级:200G/400G 光互联
集群级互联,进入 200G/400G 光互联时代。跨机、跨机架的连接,靠的是高速光模块和光纤。
200G/400G 是当前集群网络的主流速率,撑起万卡集群的通信骨架。光互联的普及,让跨节点的带宽和延迟都能满足超大规模训练的需求。
💡 200G/400G 光互联是"跨省高铁提速"——城市之间的主干道越修越快,全国大网络才能跑得起来。
3.4 开放与私有:两大阵营的博弈
互联技术的现状,还有一个重要特征:开放阵营与私有阵营并行。
- 私有阵营:如 NVIDIA 的 NVLink 系列,性能极致,但生态封闭。
- 开放阵营:如基于以太网的 RoCE、超以太网联盟(UEC),强调开放兼容,生态更广。
两大阵营各有拥趸,各有取舍。私有的追求极致性能,开放的追求生态广度,这场博弈还会持续很久。
💡 开放 vs 私有是"苹果 iOS vs 安卓"——一个封闭但体验统一,一个开放但百花齐放。选边,看你要极致还是生态。
3.5 互联为什么"场景化"是关键词
互联技术最大的变化,是从"一套方案打天下"变成"按场景精准匹配"。
芯片级要极限低延迟,节点级要高聚合带宽,集群级要低成本长距离。三层需求差异极大,所以互联技术也分成了三层,各用各的最优解。这种"场景化",是互联成熟的标志——不是技术不够统一,而是不同场景的最优解本来就不一样。
💡 互联场景化是"公路分等级"——国道、高速、高铁各司其职。不同距离、不同流量,走不同的路,这才是成熟的路网。
3.6 从 200G 到 800G:互联还在加速
200G/400G 是当前集群网络的主流,但演进没有停。下一代 800G 光模块已经在路上,更远还有共封装光学(CPO)的探索。
集群规模越大,互联带宽的需求越猛。万卡、十万卡集群的通信压力,逼着互联速率不断翻倍。互联的升级,直接决定了 AI 集群能"长到多大"——互联不够,卡再多也是"孤岛"。
💡 800G/CPO 是"给城市再修一条更宽的地铁"——人口(集群规模)涨了,公共交通必须跟着扩容,否则城市就瘫了。
四、方向四:架构创新破瓶颈
4.1 算力密度:单位面积的"生产力"
架构创新的第一重成果,是算力密度的持续提升。同样一块芯片面积,能塞下的算力越来越多。
这靠的不是制程的简单缩小,而是架构层面的优化——更高效的计算单元设计、更合理的资源调度、更紧凑的布局。算力密度,是衡量架构水平的硬指标。
💡 算力密度是"单位亩产"——同样的地,谁能种出更多粮食,谁就是种田高手。架构创新,就是提高亩产的农技。
4.2 近存计算:让数据少跑腿
架构创新的一个重要方向,是近存计算(Near-Memory Computing)的落地。
传统架构里,计算和数据存储分离,数据要在存储和计算单元之间来回搬运,耗费大量时间和功耗。近存计算把计算单元搬到离存储更近的地方,让数据少跑腿,从而降低搬运开销、提升能效。
💡 近存计算是"把厨房搬到冰箱旁边"——以前做顿饭要跑老远拿食材,现在冰箱就在灶台边,省时又省力。
4.3 混合精度:FP8/INT8 全面成熟
架构创新的另一大成果,是混合精度计算的全面成熟。FP8、INT8 等低精度格式,已经大规模用于训练和推理。
低精度格式的好处很直接:同样的硬件,算得更快、更省电。配合合理的精度控制,有效算力能翻倍。混合精度,是"不增加硬件成本,白捡一倍算力"的巧劲。
💡 FP8/INT8 是"用简化字速记"——笔画少,写起来快。只要不影响理解,用简化字能记下更多内容。混合精度,就是给计算"简化笔画"。
4.4 近存计算与存内计算:一字之差,天壤之别
架构创新里常提到两个词:近存计算(Near-Memory Computing)和存内计算(In-Memory Computing),一字之差,技术路线却大不同。
- 近存计算:把计算单元搬到离存储"更近"的地方,缩短数据搬运距离,但计算和存储还是分开的两部分。
- 存内计算:直接在存储单元里做计算,数据和计算彻底"融为一体",搬运开销几乎归零。
近存计算已经落地,存内计算还在探索期。近存是"缩短距离",存内是"消除距离",前者是现实,后者是未来。
💡 近存 vs 存内是"楼下便利店 vs 在家做饭"——近存是楼下买现成的,近;存内是在家自己开火,连下楼都省了。后者更彻底,但也更难。
4.5 算力密度的"看不见的进步"
算力密度提升,听起来抽象,但它有一个很实在的价值:同样一张卡、同样面积、同样功耗,能做更多事。
算力密度的提升,靠的是架构层面的"抠细节":计算单元更紧凑、数据流更顺畅、资源调度更聪明。这些"看不见的进步",累积起来就是一代代芯片的实打实性能提升。它没有制程换代那么抢眼,却是架构创新最扎实的成果。
💡 算力密度是"螺丝壳里做道场"——地方没变,但里面越摆越满、越摆越精。不靠扩大场地,靠的是"内功"。
4.6 混合精度不是"随便降精度"
混合精度听起来简单,但它不是"随便把精度降下去"。
FP8/INT8 能带来有效算力翻倍,前提是要处理好数值稳定性:哪些计算可以用低精度、哪些必须保留高精度、梯度怎么缩放、误差怎么补偿。这是一套需要精细工程调校的技术体系,做得好是白捡一倍算力,做不好就是"精度崩了、模型废了"。
💡 混合精度是"开车换挡"——低挡有力、高挡省油,但换挡时机不对就会熄火。会用挡位的人,才跑得又快又省。
五、四大方向背后的产业信号
5.1 从"制程竞赛"到"系统竞赛"
四大方向合起来,透出一个清晰的产业信号:竞争从"制程竞赛"转向"系统竞赛"。
单靠先进制程,已经不足以拉开差距;制程、存储、互联、架构四管齐下,做成一整个系统的协同优化,才是新的护城河。谁能把四块拼图拼得更好,谁就能赢。
💡 系统竞赛是"从单科状元到全能选手"——以前一门功课(制程)考好就行,现在四门都要拔尖。偏科生,出局。
5.2 存储和互联的"逆袭"
过去,存储和互联常被当成"配套",算力芯片才是主角。但现在,存储和互联的地位大幅上升,甚至反过来约束算力芯片的设计。
HBM 的带宽决定了单卡算力上限,互联能力决定了集群规模上限。存储和互联,已经从"配角"逆袭成"关键约束"。这是产业格局的重要变化。
💡 存储互联逆袭是"从配角到主角"——以前是给主角端茶倒水的,现在剧情全靠他们推动。戏份变了,地位自然变了。
5.3 混合精度的"免费午餐"
混合精度的成熟,给整个行业发了一份"免费午餐"。在不增加硬件成本的前提下,有效算力翻倍,这对所有玩家都是巨大的红利。
这份红利的意义在于:它让"算力焦虑"得到了部分缓解。硬件堆不动了,还能靠软件和架构层面的精度优化,再挤出成倍的性能。
💡 混合精度是"旧衣服里翻出现金"——没花钱买新衣服,却在旧口袋翻出了钱。白捡的算力,谁不爱?
5.4 成熟不意味着停滞
四大方向都"成熟"了,但这不意味着停滞。成熟,意味着这些方向已经形成了清晰的产业共识,但每个方向内部仍在快速演进。
制程还在往 2nm 走,HBM 还在往 HBM4 堆,互联还在往 800G、CPO 进化,架构创新更是百花齐放。“成熟"是"方向确定”,不是"到此为止"。
💡 成熟是"高速路修通了"——路通了,不代表没有车流、没有升级。相反,路通了,跑的车只会更多更快。
5.5 供需与价格:成熟期的"市场表情"
技术成熟,最终会反映到供需和价格上。2025-2026 年 AI 硬件最典型的市场特征,是"结构性供需失衡"。
训练芯片和 HBM 依然供不应求、价格高企,这是需求端大模型军备竞赛的必然结果;而中低端推理芯片、部分互联组件则竞争激烈、价格趋于理性。"冰火两重天"的供需,正是技术成熟期的典型表情——高端稀缺,中低端内卷。
💡 供需失衡是"演唱会门票"——山顶票(高端 HBM/训练芯片)一票难求、黄牛炒上天;看台票(中低端芯片)反而好买、还打折。同样的市场,不同的冷暖。
5.6 四大方向的"协同效应"
这四大方向不是四条平行线,而是互相咬合的一套系统。
制程趋稳逼出了架构创新,架构创新又对存储和互联提出了新要求,存储和互联的升级又反过来支撑更大的集群。四大方向环环相扣,任何一环的进步,都会拉动其他几环跟着动。这种协同效应,才是 AI 硬件真正"成熟"的底色。
💡 协同效应是"木桶理论的反面"——不是短板决定上限,而是四块板一起加高。制程、存储、互联、架构,一块加高,其余三块也跟着往上顶。
5.7 给 1-3 年开发者的三条落地启示
看完四大方向,作为开发者,有三件事可以立刻用起来:
- 关注架构而非追制程:选型时别只盯"几纳米",同样的制程,架构差异带来的性能差距可能更大,多对比实测指标。
- 理解存储分层的边界:训练、推理、边缘的存储需求完全不同,做方案时先搞清楚自己的场景落在哪一层,再谈选型。
- 拥抱混合精度:FP8/INT8 已是主流,有效算力翻倍的"免费午餐"不吃白不吃,但一定要重视数值稳定性调优。
💡 这三条是"看天象定农事"——知道了四大方向的大势,才知道自己那块田该怎么种。顺势而为,比埋头苦干更重要。
配图
图 1:四大方向总览图(制程/存储/互联/架构)
flowchart TB
subgraph 方向1[方向一:制程]
A1[3-5nm 主流 → 2nm] --> A2[贡献占比下降 架构上位]
end
subgraph 方向2[方向二:存储]
B1[训练 HBM3/E 80-288GB] --> B2[中端 HBM2e 边缘低功耗DDR]
end
subgraph 方向3[方向三:互联]
C1[芯片级 >1TB/s] --> C2[节点级 >3.6TB/s] --> C3[集群 200G/400G光互联]
end
subgraph 方向4[方向四:架构]
D1[算力密度提升] --> D2[近存计算落地] --> D3[FP8/INT8 有效算力翻倍]
end
方向1 --> 方向2 --> 方向3 --> 方向4
2025-2026 AI 硬件四大成熟方向:制程趋稳架构上位、存储全面 HBM 化、互联高度场景化、架构创新破瓶颈。
图 2:各方向关键参数进度条
flowchart LR
P1[制程 3-5nm] -->|主流| P2[2nm 推进中]
Q1[HBM3/E 2.5-8TB/s] -->|训练标配| Q2[HBM2e 中端推理]
R1[芯片级 >1TB/s] --> R2[节点级 >3.6TB/s] --> R3[集群 200/400G]
S1[FP8/INT8 成熟] -->|有效算力翻倍| S2[近存计算落地]
四大方向的关键参数一目了然:制程 3-5nm 主流、HBM3/E 2.5-8TB/s、互联从 1TB/s 到 400G 分层、FP8/INT8 带来有效算力翻倍。
写在最后
2025-2026 年 AI 硬件的技术现状,一句话总结:制程稳了、存储 HBM 化了、互联场景化了、架构上位了。四大方向同时成熟,把 AI 硬件从"单点狂飙"带进了"系统协同"的新阶段。
回顾这一篇的线索:方向一,制程迭代趋稳,3-5nm 主流、部分向 2nm,贡献占比下降、架构上位;方向二,存储全面 HBM 化,训练标配 HBM3/E 80-288GB、2.5-8TB/s,中端推理 HBM2e,边缘定制低功耗 DDR;方向三,互联高度场景化,芯片级 >1TB/s、节点级 >3.6TB/s、集群 200G/400G 光互联,开放私有两大阵营;方向四,架构创新破瓶颈,算力密度提升、近存计算落地、FP8/INT8 全面成熟使有效算力翻倍。
AI 硬件真正的成熟,不是某一项的登顶,而是四条线同时织成了一张网。
从更宏观的视角看,这四大方向不是终点,而是下一阶段竞争的新起点。理解了这四个方向,你就拿到了读懂未来几年 AI 硬件演进路线的坐标系。
成稿自检记录(5 层)
- 吸引力:3 候选标题分别命中数字型、权威型、干货型公式,点击率 9.7%-12.5%,“四大成熟方向”"全图景速览"直击"看清现状"诉求;
- 逻辑严谨:沿"制程→存储→互联→架构→产业信号"四大方向展开,层层递进,最后收拢到系统竞赛,无自相矛盾;
- 技术准确:制程 3-5nm 主流、部分向 2nm、制程贡献占比下降;训练 HBM3/E 80-288GB 2.5-8TB/s、中端推理 HBM2e、边缘低功耗 DDR;芯片级 >1TB/s、节点级 >3.6TB/s、集群 200G/400G 光互联、开放/私有两阵营;算力密度提升、近存计算落地、FP8/INT8 全面成熟有效算力翻倍,均与源调研报告第七章一致;
- 表达清晰:每段≤5 行,重点加粗,无连续超 10 行纯文字,配 2 张 Mermaid 示意图;
- 风格统一:全文卡兹克风格,“大排量”“门票”“经济舱”“亩产”"免费午餐"等类比贯穿,幽默适度。
【思考题】
现状说"制程贡献下降、架构上位",那创业公司没制程优势,机会在架构创新哪块?欢迎讨论。
这道题点到了创业公司的现实处境。没制程优势的创业公司,恰好赶上了"架构上位"的好时候。机会集中在几个方向:一是专用架构,针对特定场景(如视频生成、推理、边缘)做专用芯片,绕开通用大厂的全能打法;二是近存计算/存内计算,从"数据搬运"这个痛点切入,做新架构的探索者;三是混合精度与编译优化,在软件和架构协同层面挖性能,门槛相对低、见效快;四是互联与光互连,抓住开放阵营的机会,做差异化组件。核心逻辑是:制程是"钱和关系"的游戏,架构是"脑子和场景"的游戏。创业公司没钱没制程,但有脑子、有对细分场景的理解,这正是架构创新最需要的。
【系列文章预告】
下一篇看未来演进第一枪——架构从"计算为中心"转向"数据为中心"。当数据不再围着计算转,AI 硬件的游戏规则会彻底改写。
标签:AI硬件现状、HBM3E、先进制程、互联场景化、混合精度、技术趋势、产业总结
方向一制程迭代趋稳,3-5nm 主流、部分向 2nm,但制程贡献占比下降、重心转架构创新;方向二存储升级,训练标配 HBM3/E 80-288GB、2.5-8TB/s,中端推理 HBM2e,边缘定制低功耗 DDR;方向三互联场景化,芯片级 >1TB/s、节点级 >3.6TB/s、集群级 200G/400G 光互联,开放/私有两阵营;方向四架构创新,算力密度提升、近存计算落地、混合精度 FP8/INT8 全面成熟有效算力翻倍。
更多推荐



所有评论(0)