跳到文章正文
行业/好文 编辑推荐

英伟达给Rubin踩了一脚刹车:HBM带宽降到38.5TB/s,图的是良率

在AI芯片的世界里,参数表通常只会朝一个方向走:更高、更快、更大。但英伟达最近做了一次反方向的调…

在AI芯片的世界里,参数表通常只会朝一个方向走:更高、更快、更大。但英伟达最近做了一次反方向的调整。对比今年六月与十月的第一方文档可以看到,Rubin GPU系统的HBM与NVLink带宽被下调,横向扩展网络带宽则有所提升。

一分钟速览

  • Vera Rubin超级芯片的HBM4内存带宽从44TB/s降至38.5TB/s,NVLink从7.2TB/s降至6TB/s。
  • 横向扩展网络带宽从0.8TB/s提升到0.9TB/s;NVL4的对应数值从0.4TB/s提升到1TB/s。
  • HGX NVL8方案的HBM显存从2.3TB/176TB/s降至2TB/130TB/s,NVFP4、FP8/FP6训练算力同步下调。
  • Vera CPU的内存规格从“单颗1.5TB LPDDR5X”改为“至多1.5TB”。

参数为什么会往下走

表面看,这是一次“减配”。但把几个数字放在一起,逻辑就清楚了:HBM4的带宽门槛降低,意味着更多批次的内存颗粒能够通过验证,进入Rubin的供应链。对英伟达来说,AI芯片的瓶颈早就不只在逻辑die,HBM的良率、封装产能和交付节奏同样决定出货。把规格从“极限值”调回“可量产值”,是用少量峰值性能换取更大的供给弹性。

这不是英伟达第一次在系统层面做取舍。GPU的带宽、容量、互联和功耗是一组互相牵制的变量,任何一个指标拉到极限,都会推高封装难度和散热成本。Rubin面向的是大规模训练与推理集群,客户真正关心的是整机柜的稳定吞吐,而不是单颗芯片在实验室里的峰值。

训练算力下调,网络补回来

值得注意的是,这次调整并非全面收缩。HGX NVL8的NVFP4、FP8/FP6训练算力下调,但双向网络带宽从1.6TB/s提升到1.8TB/s;Vera Rubin NVL4的横向扩展网络带宽更是从0.4TB/s提升到1TB/s。方向很明确:少一点单机内的极限带宽,多一点集群之间的数据搬运能力。

这和大模型训练的形态变化有关。随着模型并行、专家并行和长上下文训练成为常态,集群规模越来越大,跨节点通信在总耗时中的占比上升。单机HBM带宽再高,如果节点之间传不动,整体效率仍然会被拖住。英伟达把资源从“内存墙”往“网络墙”挪,是在按真实负载重新分配预算。

对客户意味着什么

对已经按旧规格做容量规划的客户,这次调整需要重新核算。HBM容量从2.3TB降到2TB、带宽从176TB/s降到130TB/s,会直接影响单机可承载的模型规模和推理并发;如果业务依赖极致的单机带宽,可能需要更多节点来补足。反过来,网络带宽提升对大规模集群是利好,尤其是需要频繁做参数同步和KV缓存传输的场景。

另一层影响在供应链。降低HBM4门槛有助于提升最终产量,缓解高端内存的紧张局面。对云厂商和整机厂来说,交付确定性可能比峰值参数更重要:能按时拿到整机柜,才能把算力卖出去。

一次典型的系统工程决策

把这次调整理解成“Rubin变弱了”,并不准确。更合理的解读是,英伟达在量产前重新平衡了性能、良率和成本。芯片行业的竞争从来不是单点参数的比赛,而是把一堆相互冲突的指标,调成一个能大规模交付的系统。HBM带宽下调、网络带宽上调、CPU内存改为“至多”,三件事指向同一个目标:让Rubin更容易造出来,也更容易卖出去。

接下来值得观察的是,英伟达会不会在后续文档中进一步解释这次调整的原因,以及客户是否会据此改变集群设计。如果更多厂商跟进“降带宽、提网络”的思路,AI基础设施的竞争重点,可能会从单卡参数转向整机柜与集群效率。这对买家未必是坏事:参数回归理性之后,比较的将是实际训练和推理的每美元产出。

本文地址:https://www.163264.com/18114