奥尔特曼拆出 AI 失控的两条路径：一步步交出去，或者被一家拿走

“我们可能有意或无意地把控制权交给能力远超人类的系统，最终再也无法夺回。”这句话不是科幻作家写的，而是 OpenAI 首席执行官萨姆·奥尔特曼在一档播客里对 AI 风险的描述。

在 Raj Shamani 的播客节目里，奥尔特曼把 AI 走向失控的可能，归成两条路径。第一条是渐进式的权力让渡：人类为了效率，把越来越多的决策交给自主运行的 AI，等意识到问题时，已经失去了收回控制权的能力。第二条是权力集中：某个人、某家公司或某个国家，相对于其他所有力量过于强大。

一分钟速览

• 奥尔特曼提出 AI 失控的两条路径：渐进交权与单一主体垄断。
• 他认为多家实验室相互竞争，比所有人依赖一家公司更安全。
• “只有我能做这件事”的心态，被他说成创业者另起炉灶的动因之一。
• 他仍对 AI 保持乐观，尤其看好基础科学研究。
• 这套表态既是风险提示，也是 OpenAI 竞争策略的一部分。

第一条路径：温水煮青蛙式的让渡

渐进失控之所以危险，是因为每一步都合理。用户为了省时间，允许助手代为回复邮件；企业为了提高效率，把采购、排期、客服交给 Agent；政府为了治理便利，接入统一的模型接口。单看每一次授权，都有明确的收益，也有可撤销的按钮。但当系统之间的依赖越来越深，撤销一次授权的成本会变得难以承受。

这正是奥尔特曼所说“有意或无意”的含义。没有人会主动交出控制权，但每一次“这次先让它自动跑”的妥协，都会把边界往外推一点。等到系统开始参与系统自身的设计与部署，人类想收回的就不只是权限，而是理解能力。

第二条路径：垄断比失控更现实

相比科幻式的反叛，奥尔特曼显然更担心权力集中。他的判断是：让多个不同路线的 AI 实验室相互竞争，比让所有人依赖一家企业更安全。这句话放在 OpenAI 自己身上，多少有点微妙——它既是领先者，也是被质疑“过于集中”的对象。

但他对竞争的解释并不只是市场效率。多家实验室并存，意味着不同的价值取向、不同的安全假设、不同的失败方式。即便某一家判断失误，世界也不会只有一条路径可走。反过来，如果能力、算力和分发都集中在一个主体手里，纠错机制就会失效。

他也提到，很多离开 OpenAI 创办竞争公司的人，心里都有类似的想法：这项技术的利害关系太大，只相信自己能把它做对。这种心态既推动了行业竞争，也制造了新的集中风险——每个人都觉得自己才是那个应该掌握方向盘的人。

乐观的部分：基础科学

谈完风险，奥尔特曼仍然给出了乐观的版本。他特别提到基础科学研究，认为下一代模型能让科学持续进步。这个判断并不新鲜，但在“失控”话题之后说出来，有它的用意：AI 的价值不只在商业效率，更在于扩展人类理解世界的能力。

问题在于，基础科学的收益周期很长，而权力集中的风险是即时的。两者并不矛盾，却需要不同的治理工具。前者靠投入和耐心，后者靠制度设计：可审计的权限、可竞争的算力市场、以及能在出问题时踩刹车的监管框架。

趋势洞察

奥尔特曼的这番表态，可以当作行业风向的一个样本：头部公司开始主动谈论“控制权”，既是回应外界质疑，也是为下一阶段的监管谈判定调。真正值得关注的不是他说了什么，而是说完之后做了什么——模型卡里是否披露自主性边界，API 是否提供可撤销的权限，竞争是否真的存在于算力和分发层面。AI 治理最终不会由某一场播客决定，而会由无数个产品默认设置累积而成。