H100 910B(910C 参数= 910B*2)
计算单元 SM 132个/GPU AICore 24个/NPU
矩阵 

Tensor Core 4个

1个AICore 1个AIC(Cube核)

向量

Cuda Core 128个

1个AICore 2个AIV(vector核)
存储单元显存 80GB 64GB
片上缓存 256KB L1/SRAM 248KB UB
显存带宽 3.35TB/S 1.4TB/S
高速互联 900GB Nvlink 392GB HCCS

1.超节点

GB300 NVL72

B300出1.8TB双向带宽,Nvswitch单芯片容量28.8Tb,整机57.6Tb(性能对标博通TH5),交换芯片容量计算逻辑 1.8/2*8/18*72 = 28.8  Tb。

昇腾910C 

Level 1下互联是8个910C的芯片,16个DIE。 上图展示有点问题,实际一个Node的Level1里是一个交换芯片的7个虚拟平面,不是7个交换芯片。每个平面接单独的交换机组,有点类似B300 CX8的RoCE组网多平面架构。 UB交换芯片Level1使用量0.392*2/2*8*2=6.272 Tb/s, Level2 交换芯片使用量0.056/2*8*48=10.752Tb/s,芯片性能对标博通TH3.

Logo

作为“人工智能6S店”的官方数字引擎,为AI开发者与企业提供一个覆盖软硬件全栈、一站式门户。

更多推荐