跳到文章正文
大模型 编辑推荐

奥特曼给 AI 竞赛算了三种结局:全球监管、实验室合并,或一家把对手 GPU 打瘫

一场内部员工会议上的推演,被外界当成了行业风向标。OpenAI 首席执行官萨姆·奥特曼在会上提出…

一场内部员工会议上的推演,被外界当成了行业风向标。OpenAI 首席执行官萨姆·奥特曼在会上提出 AI 竞赛的三种可能终局:建立全球性监管机构、顶级实验室合并为一,以及某家公司率先突破关键技术,甚至有能力让竞争对手的硬件陷入瘫痪。他把最后一种称为“糟糕透顶”的结局。

一分钟速览

  • 三种终局分别是:类似国际原子能机构的全球监管组织、头部实验室合并为单一机构、单一公司突破递归自我改进形成赢者通吃。
  • 第二条路径被称为“Demis 方案”,源自 Demis Hassabis 提出的借鉴欧洲核子研究中心模式的设想。
  • 第三条被称为“Eliezer 方案”,关联 AI 安全研究者 Eliezer Yudkowsky 对失控超级智能的长期警告。
  • 最极端情形下,率先突破的公司可能具备干扰甚至破坏竞争对手 GPU 的能力。
  • 奥特曼明确反对先进 AI 集中在单一企业手中,但同时承认 OpenAI 无法轻易放弃技术领先地位。

路径一:把 AI 装进“IAEA”

第一条路径是建立一个类似国际原子能机构的全球监管组织,对最先进的 AI 系统实施监督,制定统一安全标准,并要求开发企业接受独立审查。

这个想法并不新。2023 年 5 月,奥特曼曾与 Greg Brockman、时任首席科学家 Ilya Sutskever 共同发表《超智能治理》,提出未来可能需要建立类似 IAEA 的国际机构,对达到特定能力或算力门槛的 AI 开发活动实施监管,包括系统检查、安全审计、合规测试,以及算力和能源消耗监测。

难点在于,AI 已经是各国重点投入的战略技术。国际监管涉及技术保密、国家安全和产业竞争,统一规则意味着让渡部分主权。IAEA 之所以能运转,是因为核不扩散有明确的安全共识和核查手段;AI 目前既没有公认的能力阈值,也没有可行的现场核查机制。

路径二:把实验室合并成“AI 的 CERN”

第二条路径是全球领先的 AI 实验室最终合并为一家机构,奥特曼称之为“Demis 方案”。Demis Hassabis 曾提出,AI 研究可以借鉴欧洲核子研究中心的模式,由多个国家共同建设和管理一个大型研究机构。

如果头部公司由同一个组织统一管理,就可以共享安全标准和实践经验,避免各家公司为了抢先发布而不断加快研发节奏。这直接针对当前竞争结构里最危险的部分:时间压力压过安全评估。

但把最先进的模型、人才和算力全部集中到一个组织,该机构将拥有巨大的技术和经济影响力。如何避免权力过度集中,会立刻变成新的难题。而且合并的前提是各方愿意放弃商业优势,这在当前格局下几乎没有现实基础。

路径三:递归自我改进与“GPU 瘫痪”

第三条被奥特曼称为“Eliezer 方案”,指向 AI 安全研究者 Yudkowsky 提出的一类极端设想:率先掌握超级智能的一方需要采取决定性行动,阻止其他组织开发潜在危险系统。

奥特曼把它与递归自我改进联系起来。所谓递归自我改进,是指 AI 能够参与改进自身的模型架构、训练方法或开发流程;升级后的 AI 又能继续提高这些能力,形成持续的自我改进循环。一旦这种机制达到足够高的自主化程度,研发速度可能明显加快。

如果某家公司率先突破这一层,就可能迅速建立对手难以追赶的优势,最终形成垄断。在最极端的描述里,这家公司甚至可能拥有干扰或破坏竞争对手 GPU 的能力——这正是奥特曼口中“糟糕透顶”的部分。

把“让对手 GPU 瘫痪”当成一种可能结局,听起来像科幻,但它反映的是一个现实趋势:算力已经成为战略资产,而算力依赖软件栈、网络和供应链。攻击面不止在模型权重,也在基础设施层。

三种结局背后的同一个焦虑

这次内部讨论延续了奥特曼此前一贯关注的问题。2026 年 9 月中旬,他曾公开指出先进 AI 可能带来两大风险:一是人类失去对 AI 系统的控制,二是 AI 权力集中在少数组织手中。他呼吁建立更严格的 AI 安全协议,并对先进系统开展独立评估。

这一立场与 Anthropic 首席执行官达里奥·阿莫迪的部分观点一致。两家公司在商业上是直接竞争对手,在治理议题上却经常给出相似判断:能力提升的速度快于制度建设的速度。

值得注意的是,奥特曼在内部同时承认,OpenAI 目前无法轻易放弃与竞争对手争夺技术领先地位。这句话点出了整个行业的困境:所有参与者都认为集中化危险,但没有一家愿意单方面减速。这就是典型的集体行动问题。

为什么现在讨论“终局”

过去一年,行业讨论的重心从“模型能不能更聪明”逐渐转向“能力集中在谁手里”。算力采购规模、数据中心融资、模型公司的估值,都在把 AI 推向资本密集型产业。一旦进入这个阶段,竞争就不再只是产品竞争,而是资本、能源和供应链的竞争。

在这种结构下,赢者通吃的概率会上升。训练前沿模型的固定成本越来越高,后来者需要更大的投入才能追上;而领先者可以用已有收入补贴下一代训练。规模效应从技术优势变成了结构性壁垒。

这也是为什么“合并”和“全球监管”会同时出现在一份内部推演里。它们本质上都是对同一件事的回应:如果竞争自然演化,结果可能是极少数机构掌握决定性能力。

趋势:治理讨论从“对齐”转向“权力”

早期的 AI 安全讨论集中在技术对齐:如何让模型理解并遵循人类意图。现在的讨论越来越多地涉及权力结构:谁拥有模型、谁控制算力、谁制定规则。

这个转向会带来几个可预期的变化。监管会从原则声明走向具体的算力门槛和审计要求;企业会开始把治理立场写进对外叙事,作为争取政策空间的工具;开源与闭源之争也会被重新框定——它不只是技术路线选择,也是权力分布选择。

三种结局未必会以纯粹形态出现。更可能的现实是混合:部分地区形成监管联盟,头部公司在某些环节合作、在另一些环节死磕,算力基础设施被纳入关键基础设施管理。但无论走哪条路,有一个判断正在成为共识:AI 的终局问题,最终不是模型能力问题,而是制度设计问题。

本文地址:https://www.163264.com/17966