跳到文章正文
openai-gpt 编辑推荐

Altman 说把内存留在你桌上“很糟糕”:一场关于 DRAM 该归谁的争论

播客里主持人问的是供应链短缺,萨姆·奥尔特曼给出的回答却像一句价值判断:“让全世界有限的 DRA…

播客里主持人问的是供应链短缺,萨姆·奥尔特曼给出的回答却像一句价值判断:“让全世界有限的 DRAM 躺在每个人的电脑里,只被用到 5% 的时间,从全球分配的角度看,这相当糟糕。”这句话很短,但它把本地推理派和云端派争了两年的问题,摆到了台面上。

一分钟速览

  • 奥尔特曼在播客节目中说,把内存放在个人电脑而不是数据中心,是“很糟糕”的资源分配
  • 他的理由是利用率:个人设备上的 DRAM 大部分时间闲置,而云端可以做到接近满负荷
  • 背景是全球内存短缺,三星与 SK 海力士的长期协议已锁定未来数年大量产能
  • 短缺的直接后果是消费电子涨价,笔记本、手机、显卡的价格都在往上走
  • 有厂商预计,这轮内存紧张至少会持续到 2028 年

他的逻辑,其实是一道除法

把这段话拆开看,奥尔特曼讲的不是技术路线,而是资源分配效率。全球 DRAM 产能是有限的,如果这些内存分散在几亿台个人电脑里,平均利用率可能只有个位数;如果集中到数据中心,同一批内存可以被成千上万个请求分时复用,利用率能拉到很高的水平。

在供给受限的市场里,谁的利用率高,谁就能用同样的硅片产出更多的服务。这是一个非常朴素的工业逻辑,和“本地推理更隐私、更便宜、更可控”的叙事正好相反。

他还点破了一个常见误解:很多人以为开源模型成熟之后,本地推理就能替代云端,于是数据中心的扩张可以放缓。但如果模型规模继续增长,本地能跑的那一档,和云端能跑的那一档,差距会越拉越大。用户想要的不是“能跑”,而是“跑得好”。

本地推理派的反弹并不意外

反对意见也很充分。第一,隐私:把个人数据交给云端,本身就是一种成本,只是它不以美元计价。第二,延迟与可用性:本地推理不依赖网络,也不受服务条款和配额的限制。第三,成本结构:对高频使用的用户来说,一次性买硬件可能比长期订阅更划算。

更关键的一点是,把内存全部集中到云端,等于把选择权交给了少数几家公司。当算力成为稀缺资源,谁拥有数据中心,谁就拥有定价权。奥尔特曼的“全球分配效率”,从另一个角度看,也是“全球分配权力”。

这也是为什么这场争论很难有结论:它表面上在讨论内存利用率,实际上在讨论 AI 时代的基础设施应该由谁掌握。

短缺是怎么传导到你的账单上的

这轮内存紧张的根源,是 AI 数据中心对高带宽内存和服务器 DRAM 的海量需求。三星、SK 海力士等厂商与云服务商、大型 AI 项目签了多年期协议,把未来数年的产能提前锁定。剩下的产能要供给消费电子,价格自然被推高。

于是出现了一个有点荒诞的场面:普通用户想买一台内存大一点的笔记本,会发现价格比一年前贵了不少,而涨价的理由,是几万公里外的机房在囤内存。AI 的算力竞赛,最终以硬件涨价的形式,落到了每一个消费者的购物车里。

这意味着什么

短期内,云端优先的路线不会改变。模型越大,越依赖集中式的算力和高速互联;个人设备能承载的,仍然是小参数模型和特定任务。

但长期看,这场争论会逼出两条并行的技术路线:一条是把更多能力压缩到端侧,用蒸馏、量化和专用芯片降低对内存的依赖;另一条是继续把云端做得更高效,用调度和互联把利用率推到极限。谁能把这两条路的成本曲线拉平,谁就能决定下一个十年的默认架构。

至于奥尔特曼那句话,它更像是一次立场声明:在供给紧张的年代,效率会被放在隐私和自主性前面。这个排序是否成立,最终不取决于他怎么说,而取决于用户愿不愿意为“数据留在自己手里”多付多少钱。

本文地址:https://www.163264.com/18662