Jeff Dean 和李飞飞对谈：RSI 没那么快，他的新公司想让专家生产力翻 20 到 50 倍

关于“AI 能不能自己改进自己”，业内一直有两派。一派认为递归自我改进（RSI）会让能力曲线陡直上升，另一派认为物理世界的时间不会因为你聪明就缩短。Jeff Dean 属于后者，而且他现在创业做的事，正是围绕这个判断展开的。

一分钟速览

• Jeff Dean 在斯坦福 HAI 与李飞飞对谈，认为 RSI 受限于实验的物理时间
• 他的新公司名为 Discovery Loop，定位为公益公司（PBC）
• 已有约 20 个自动改进循环在运行，目标是让领域专家生产力提高 20 到 50 倍
• 创业前三周在咖啡馆等地做了 400 场面试
• 他承认自己看走眼过两件事：低估编程能力的影响、误判神经网络结构演进方向

RSI 的天花板在哪

Jeff Dean 的判断是：完全的递归自我改进不太现实。他举了个很朴素的例子——一个人启动实验，凌晨两点实验结束，他要等到早上八点回到工位才知道结果。自动化系统可以省掉这段等待，及时决定下一轮做什么。但训练、计算、保存数据、评估结果，这些步骤仍然需要时间，不可能以无限快的速度完成。

换句话说，AI 可以 7×24 工作，但 GPU 跑一轮训练就是要几个小时，物理实验就是要几天。智能的提升速度会被算力和实验周期约束住，这是硬边界。

Discovery Loop 想做什么

在斯坦福 HAI 与李飞飞的对谈中，Jeff Dean 披露了新公司 Discovery Loop 的进展。公司使命是构建能自动解决机器学习、科学与工程重要问题的 AI 系统。据介绍，目前已有约 20 个自动改进循环在运行，也搭建了支持人和 Agent 共同工作的协作框架。

他们的目标不是取代科学家，而是让少量专家带着大量 Agent 做研究，把领域专家的生产力提高 20 到 50 倍。为了搭起这支团队，前三周他们就在咖啡馆等地方进行了 400 场面试。

公司注册为公益公司（Public Benefit Corporation），公共使命是开发应对重要社会问题的技术，让更多人获得技术带来的益处。

四位创始人的来路

另外三位联合创始人是 Sanjay Ghemawat、Quoc Le 和 Oriol Vinyals。按两两合作的关系算，他们共事了 14 到 30 年。四人都来自 Google，参与过多代搜索产品、早期广告系统，以及 Gmail、News、Translate 等产品；在基础设施层面，参与过帮助人们组织海量数据的系统、多代大规模机器学习基础设施，还有 TPU 这种专用硬件。

这套履历解释了为什么他们敢做“自动化科学发现”——不是从零开始，而是把过去二十年在大规模系统上学到的东西，搬到科研流程上。

他看走眼的两件事

对谈里有一段挺有意思：Jeff Dean 承认自己有些事看走眼了。

第一件是编程。在 Gemini 项目里，编程原本就是团队关注的方向之一，但他没有充分预见这项能力会如此深刻地影响模型解决各种问题的能力。后来的事实是，代码能力成了通用推理能力的重要来源。

第二件是神经网络的形态。他曾期待网络会长出更多奇特、不规则的结构，但这条演进路线并没有完全按他的预想展开——最终赢的是相对规整的 Transformer 系架构，靠规模和数据的堆叠取胜。

关于 AI 做数学

谈到 AI 做数学，他认可机器生成证明的价值，但更看重人类能否从这些结果中理解并提炼出可以继续使用的方法。这个态度和很多数学家的担忧一致：证明被验证为真，不等于被理解。如果人类无法从中获得洞察，那 AI 更像一台超级验算机。

参考来源：斯坦福 HAI 对谈、量子位整理报道。