跳到文章正文
行业/好文 编辑推荐

国产 GPU 越来越多,为什么反而更难用了?

三年前,对不少模型公司和算力建设方来说,最迫切的问题是“有没有卡”。当国产芯片、服务器与集群方案…

三年前,对不少模型公司和算力建设方来说,最迫切的问题是“有没有卡”。当国产芯片、服务器与集群方案逐渐丰富之后,新的问题反而更突出了:拿到一批卡,并不等于真正获得了同等规模的有效算力。一篇行业深度访谈把这个转向讲得很清楚。

一分钟速览

  • 国产算力正从“有无”阶段迈入“有效规模”阶段,核心瓶颈转向系统级协同能力;
  • 芯片适配只是起点,万卡集群下的通信、调度与故障定位决定真实算力利用率;
  • 跨代际、跨厂商的异构算力统一纳管,带来显著的工程复杂度;
  • 竞争重心已由单芯片性能转向全栈计算系统能力;
  • 客户开始追问:集群能否稳定运行、故障能否快速定位、不同芯片能否迁移协同、理论算力有多少能转化为有效算力。

“跑得起来”和“跑得划算”是两回事

把模型迁移到新芯片上,接口对上只是第一步。当集群从几十张卡扩大到几千、上万张卡,通信、网络、调度与故障定位中的任何一处短板,都可能让大量加速卡陷入等待。再往前一步,当一家企业同时拥有不同代际、不同厂商的算力资源,把它们纳入同一套生产体系又会带来新的适配与协同成本。从“能不能跑”到“能不能规模化地跑”,国产算力的竞争中心,正在从单颗芯片向整个计算系统延伸。

一个从业者的转向

文章以一位网络工程师的职业轨迹串起这段变化。他过去二十年主要做 IP 网络产品,关注广域网、园区网以及复杂业务环境下的网络功能;离开通信设备公司后,他做过交换机、芯片与白盒设备。2023 年 ChatGPT 掀起大模型热潮后,算力需求骤然增长,他经人介绍接触到刚成立不久的基流科技——这家 2023 年 2 月成立的公司判断,随着模型参数与集群规模扩大,网络与通信可能成为 AI 基础设施的关键瓶颈。他此前积累的网络与白盒交换机经验,恰好对上这条路线。

评价标准变了

他观察到,AI 集群中的网络更像一个高性能局域网,评价标准高度集中:带宽够不够高、时延够不够低、数千张加速卡之间能否及时完成数据同步。而工作节奏也完全不同——大公司强调流程与质量控制,创业公司强调快速响应:一个问题白天暴露出来,晚上可能就要找到原因并推动解决。这背后是行业阶段的切换:早期只要能把设备组织起来、让模型顺利跑通,就有机会进入项目,客户对性能、稳定性与软硬件协同的要求还不算严格;如今供给增多,单纯拥有一批卡已经不能说明问题,客户会追问集群稳定性、故障定位速度、芯片间迁移协同能力,以及理论算力究竟有多少能转化为有效算力。当供给不再是瓶颈,把算力真正“用好”,才是接下来最难的部分。

本文地址:https://www.163264.com/17019