从 72 卡到 1024 卡：超节点火了一年，算力竞赛从“买多少”变成“怎么连”

过去厂商展示算力，习惯说“我们有多少张卡”。现在发布会的屏幕上，更常见的数字是“能连多少卡”：72、384、1024。这个变化看起来很技术，其实回答的是一个非常实际的问题——当模型大到一台服务器装不下，多出来的芯片到底是在干活，还是在等数据。

一分钟速览

• 超节点的核心是把数十到上千颗 AI 芯片通过高带宽互联组成一个紧耦合计算域，像一台机器一样工作
• 英伟达 GB200 NVL72 把 72 颗 GPU 接入同一个 NVLink 域，把紧耦合范围从服务器扩大到机柜
• 华为 CloudMatrix 384 已在芜湖数据中心规模上线；Atlas 950 SuperPoD 展示 1024 卡配置，提供 256TB 全局统一内存编址
• 浪潮元脑 SD200 Ultra 用 128 颗本土 AI 芯片构建紧耦合系统，8TB 统一编址显存，可单机运行 2.8 万亿参数的模型
• DeepSeek 曾披露其系统中节点内通信带宽约为跨节点互联的四倍，模型设计因此被迫迁就连接方式

为什么“多买机器”开始失效

传统 AI 集群的基本单元是八卡服务器：服务器内部用 NVLink 高速互联，服务器之间用 InfiniBand 或以太网连接。这套架构撑起了过去几年的大模型训练，但它有一个结构性缺陷——机内和机外的通信不在同一个性能层级上。

当模型能装进一台服务器，数据交换走的是高速通道；一旦模型超出单机容量，计算就必须跨节点分布，而跨节点的带宽可能只有机内的四分之一甚至更低。此时 GPU 的大量时间不是在算，而是在等别的芯片把数据传过来。

结果就是理论算力和有效算力之间出现巨大落差。买更多的卡，未必能换来更快的训练；有时候卡越多，同步开销越大，效率反而下降。

超节点想解决的，正是这道墙

超节点的思路很直接：把更多芯片纳入同一个高速互联域，让它们在小范围内像一台计算机那样协作，减少跨越边界的次数。GB200 NVL72 把 72 颗 Blackwell GPU 放进一个 NVLink 域，就是这个思路的标志性产品。

国内的推进速度也不慢。华为的 CloudMatrix 384 已经在数据中心规模上线，Atlas 950 SuperPoD 把规模推到 1024 卡，并给出 256TB 的全局统一内存编址空间——这意味着更多显存可以被当作一个整体来调度，而不是每张卡各自为战。浪潮的元脑 SD200 Ultra 则用 128 颗本土芯片做出 8TB 统一编址显存，宣称单机可以承载 2.8 万亿参数的模型，Token 生成时延压到 5.85 毫秒，约合单用户 170 Tokens/s。

这些数字的绝对值不一定能直接横比，因为芯片能力、互联机制和部署形态都不同。但它们共同说明了一件事：竞争的重心，正在从“采购多少芯片”转向“如何组织芯片”。

卡数不是答案

问题也随之而来。超节点本来是为了提高效率，可发布会最容易被记住的，还是“能连多少卡”。这很容易让竞争重新退化成规模比拼——把互联域做得越来越大，却忽略了软件栈能不能跟上。

紧耦合系统的性能增益，取决于模型切分、算子实现、通信调度和内存管理能否协同优化。硬件把 1024 张卡连起来，只提供了可能性；真正决定吞吐的，是数据在卡之间怎么流动、专家怎么路由、批处理怎么排布。没有对应的软件栈，卡数越多，浪费越大。

DeepSeek 披露的实践就是一个反例式的证明：为了让混合专家模型的通信成本可控，团队不得不限制每个 Token 访问的专家跨越多少个节点，并利用更快的节点内连接转发数据。连接方式反过来塑造了模型结构，这在过去是很少见的。

这意味着什么

第一，算力基础设施的评价指标会变。从“有多少 PFLOPS”，转向“有效算力利用率”“每 token 成本”“互联域内的通信效率”。这些指标更难宣传，但更接近真实生产力。

第二，软硬协同会成为分水岭。能自己定义互联协议、自己做编译器和调度器的厂商，会在超节点上拿到超额收益；只做硬件集成的厂商，很难把规模转化成性能。

第三，对模型公司来说，选择算力供应商不再只是比价格，而是比“这套系统能不能跑我的模型结构”。当模型和硬件开始互相迁就，采购决策就变成了一项架构决策。

超节点火了一年，真正的较量才刚刚开始：不是谁能连更多卡，而是谁能证明，多出来的那些卡真的在算。