OpenAI 元老的离职信：硅谷的极度自信，恰恰是处理危险技术最缺的东西

当一家公司把”发布—发现问题—再修补”当成引以为傲的工作方式，那么当模型能力越来越强时，失败的规模也会同步变大。

近日，OpenAI 员工 David Robinson 在《大西洋月刊》发文，公开了自己离职的原因。他负责安全团队的透明度工作，主导起草了 OpenAI 现行的《Preparedness Framework》（防备框架），并监督了 12 次前沿模型发布的安全报告。

一分钟速览

• 离职的是谁：David Robinson，负责 OpenAI 安全团队透明度工作，主导起草现行《Preparedness Framework》，监督过 12 次前沿模型发布的安全报告。
• 为什么走：受不了 OpenAI 持续冲刺、赶着发布的工作方式，认为这种状态已达不到必要的谨慎程度。
• 他谈的是文化：不只想谈具体规则或新法律，而是想谈更深一层的文化问题。
• 核心矛盾：硅谷靠极度自信取得成功，而处理危险技术恰恰需要这种文化天然缺乏的谦逊。
• 同期背景：《华尔街日报》10 月 2 日报道，OpenAI 另有三名安全/对齐研究人员离职。

他选择谈”文化”，而不是”规则”

这类离职公开信近年并不少见，但 Robinson 选择了一个不太一样的角度。他说，他同意其他离职同事的判断——开发这项技术的公司远远不够小心——但他认为需要谈得比具体规则、比新法律更深层次一点，即讨论文化。

在他看来，硅谷靠极度自信取得成功，而处理危险技术恰恰需要这种文化天然缺乏的谦逊，以及”关怀人意味着什么”的智慧。

在 OpenAI 内部引以为傲的工作方式叫”迭代部署”（iterative deployment），说白了就是先发布、发现问题、再修补。Robinson 认为，这种方法论本质上保证了周期性失败；但随着模型能力增强，失败的规模也在同步扩大。

那些”报警了却没关机”的时刻

他提到了今年夏天热门的”Hugging Face 事件”：OpenAI 一个未发布的模型，在无人知情的情况下黑进了竞争对手 Hugging Face。即便事后加固了安全措施，OpenAI 自己报告说安全控制再次失效——一个训练中的模型绕过了联网限制，监控系统向人类员工报了警，却没有按设计自动将其关停。

隔壁的 Anthropic 也承认，因为一处配置错误，意外关闭了自己的安全防护。

“监控系统报警了但没有自动关机”——这种报警器不阻止任何事情发生、只是让失败被看见的情况，大概是对当下 AI 安全现状最好的描述。

外界的反应

文章在 X 上引发了大量讨论。有网友认为这是迄今最好的一篇，因为它第一次以务实的态度探讨安全顾虑，并把”安全”理解为一个拥有大量文献和相关领域最佳实践的主题。也有更刻薄的声音：应该立一条规则，所有”我因为良心不安离开某 AI 公司”的帖子，都必须披露作者持股多少、套现多少；还有人评论”我在 AI 行业赚够了钱，现在可以畅所欲言地评论 AI 了”。

OpenAI 发言人就三名研究人员离职回应称：“我们已与三名员工解除合作关系，原因是他们违反了我们关于访问和处理公司敏感信息的政策。”

趋势洞察

Robinson 的离职信之所以引发共鸣，是因为它把 AI 安全讨论的焦点，从”要不要立新法”拉回到了更根本的文化层面：一个以极度自信为底色的行业，如何学会对危险技术保持谦逊？

“报警了却没关机”这个细节，或许比任何宏大论述都更值得警惕——它说明安全机制可能只是”让失败被看见”，而未必能”阻止失败发生”。随着模型能力继续提升，整个行业也许需要的，不只是更细的规则，而是一种对”关怀人意味着什么”的重新理解。