跳到文章正文
大模型 编辑推荐

英伟达悄悄下调 Rubin 带宽:不是退步,是为了能造出来

英伟达调整了下一代 Rubin GPU 系统的规格。对比今年六月和十月的官方文档可以发现,HBM…

英伟达调整了下一代 Rubin GPU 系统的规格。对比今年六月和十月的官方文档可以发现,HBM 内存带宽和 NVLink 互联带宽都被下调,但网络带宽反而提升了。

具体来看,Vera Rubin 超级芯片的 HBM4 内存带宽从 44TB/s 降到 38.5TB/s,NVLink 带宽从 7.2TB/s 降到 6TB/s,横向扩展网络带宽则从 0.8TB/s 升到 0.9TB/s。这些变化基本等比例地体现在 NVL4 和 NVL72 两种整机方案上,其中 NVL4 的横向扩展网络带宽从 0.4TB/s 直接提到 1TB/s。

降的是纸面参数,保的是良率

单看数字,下调像是退步。但放在量产语境里,逻辑正好相反。HBM4 是这一代最难买的零件之一,能稳定供货的颗粒有限。把带宽门槛降低,可以让更多批次的 HBM4 满足要求,直接提高整机出货量。

换句话说,英伟达是在用一点峰值性能,换交付的确定性。对等着建集群的客户来说,能按时拿到机器,比参数表上多几个 TB/s 更实际。对云厂商而言,这也意味着同样的预算能拿到更多整机,单卡摊下来的折旧压力反而下降。

非超级芯片方案缩得更多

在 Rubin GPU 的 SMX 模块方案里,调整幅度更大。两种 HGX NVL8 系统的 HBM 容量从 2.3TB 降到 2TB,带宽从 176TB/s 降到 130TB/s;NVFP4 以及 FP8、FP6 的训练算力都有下调;NVLink Switch 带宽从 28.8TB/s 降到 24TB/s。双向网络带宽则从 1.6TB/s 升到 1.8TB/s。

这组变化透露出一个取舍:算力和内存带宽收紧,互联和网络加强。原因不难理解,如今的大模型训练更依赖多卡协同,卡与卡之间的通信效率,往往比单卡峰值更影响整体吞吐。训练一个超大模型时,GPU 有相当多时间在等数据,而不是在算。

另外,所有 Vera CPU 的内存规格从单颗对应 1.5TB LPDDR5X 改成了至多 1.5TB。措辞变化看似细小,实际是把配置弹性留给了整机厂商,也让不同价位的方案有了区分的空间。

还有一个容易被忽略的点:横向扩展网络带宽的提升,意味着更多机架可以连成一个集群而不明显掉速。对动辄上万张卡的训练任务来说,这比单机内部再快一点更有价值。英伟达这次把资源从芯片内部挪到机架之间,方向是清楚的。

趋势洞察

芯片行业的竞争,早就不只是比谁的参数更漂亮。能不能把实验室里的数字,稳定地变成机架上的机器,才是真正的分水岭。这次调整说明,英伟达在性能、良率和交付之间选择了后者优先。

对采购方来说,评估下一代平台时不能只盯峰值。内存容量、互联带宽、实际可用算力,以及软件栈的成熟度,都会决定这笔钱花得值不值。参数下调不等于产品变弱,但确实意味着某些工作负载的预期要重新校准。文档口径的反复变化也提醒买家,早期规格表只能当参考,最终还是要以量产版本为准。

本文地址:https://www.163264.com/18106