跳到文章正文
openai-gpt 编辑推荐

三名被解雇的 OpenAI 安全研究员开口:我们没泄密,只是要求 AI 更透明

三名被 OpenAI 解雇的安全研究员,最近第一次完整讲了自己这边的说法。托梅克 · 科尔巴克、…

三名被 OpenAI 解雇的安全研究员,最近第一次完整讲了自己这边的说法。托梅克 · 科尔巴克、米基塔 · 巴莱斯尼和王茉莉都否认泄露机密,也不认可公司给出的解雇理由。他们怀疑,真正的原因是自己在推动 AI 系统变得更透明。

一分钟速览

  • 三人因“违反敏感信息管理规定”被辞退,均否认泄密。
  • 公司要求解锁个人手机,调查人员在其中发现阅后即焚的聊天记录。
  • 争议核心是推理模型的“思维链”该不该长期保留、供外部核查。
  • 三人已致信董事会,呼吁加强与外部安全机构的合作。

他们怎么回应

据《华尔街日报》采访,三人对官方说法逐条反驳。公司对外表示,解雇和安全顾虑无关;但三人称,从头到尾没有收到书面说明,不知道自己究竟处理错了哪份材料。王茉莉被指多次访问一名高管的邮箱,她的解释是:这项权限她近一年前就申请取消,上个月只是误点开一封敏感邮件,没有转发,也第一时间上报了这次失误。科尔巴克则提到,手机里的阅后即焚聊天在硅谷属于常规安全做法,不该被当成罪证。

事情是怎么闹起来的

起因是 OpenAI 安全团队怀疑三人向一名外部研究员透露了内部模型架构。这名研究员当时正受托做一项独立调查,双方通过 Slack 和 Signal 沟通。九月上旬有媒体报道称,公司的新模型能力更强,但暴露出来的推理过程更少。几周之后,公司启动泄密调查,一周之内三人同时离开。那名外部研究员否认向记者传递过任何机密信息。

真正的分歧

推理型模型解题时,会在内部的思维链区域记下中间步骤。企业靠它排查模型为什么做出某个判断,外部安全研究者靠它做独立审计。问题在于,新一代模型思考更久,留下的记录却更少。三人去年曾联合多家实验室的研究者发文,主张持续保留这种可核查能力。今年夏天公司内部讨论新模型时,巴莱斯尼提出异议,被一些人看作是在唱反调。

影响不止三个人

科尔巴克说,现在同事不敢和外部人员交流,也不敢在内部提安全隐患,担心同样被调查。另一份刚发布的现场审计报告也指出,公司基础设施存在大量安全漏洞,而最终报告有近一半内容被涂黑。公司方面则发布了新的安全架构说明,称这套架构运行时断开互联网,相关漏洞已经修复,模型训练在十月初恢复,后续还会公布多项外部合作。

趋势洞察

这件事表面是人事纠纷,实质是行业的共同难题:模型越强,越难被外人看懂;越难被看懂,安全审计就越依赖企业自愿公开。当透明和保密撞在一起,最先被牺牲的往往是提出问题的人。对普通用户来说,这决定了一个更实际的结果:以后看到的 AI 安全报告,到底是独立核查出来的,还是厂商自己写的一份说明书。

本文地址:https://www.163264.com/17968