原 OpenAI 安全负责人发声：一边警告风险，一边全速往前冲

据《商业内幕》报道，上周从 OpenAI 离职的安全系统团队前负责人之一戴维 · 罗宾逊公开表示，公司在 AI 安全问题上存在明显的言行不一。

他说，OpenAI 一边反复警告新模型能力增强可能带来的风险，一边公开谈论放慢 AI 开发速度，内部却仍在全速推进。“真正让我感到矛盾的是，我们不断发布这些警告，最后却还是在训练和部署那些被我们自己警告存在危险的模型。”

今年 7 月，数百名 OpenAI 员工签署公开信，呼吁政府出台监管措施，为 AI 开发降速。此前，Anthropic CEO 阿莫迪呼吁 AI 公司自行协调、共同放慢开发速度；今年 9 月，OpenAI CEO 奥尔特曼对此表示赞同，称“我们需要控制前沿 AI 的发展节奏”。

罗宾逊说，OpenAI 办公室里仍是一片高速运转的状态，不少人几乎靠透支精力支撑工作。他形容那种氛围“几乎就像芭蕾，各个部门的工作全都同时汇聚在一起”。

研究人员也并不讳言让 AI 自行提升能力可能带来的危险。这种让 AI 不断改进自身能力的过程被称为“递归自我改进”。今年 9 月，OpenAI 首席科学家雅库布 · 帕乔茨基在一篇讨论递归自我改进的博客文章中警告：“眼下需要极度谨慎。”

当地时间 2 日，OpenAI 一名发言人已证实罗宾逊离职。