消息称 AI 失控前 OpenAI 已接到员工警告，但高层选择无视

消息称 AI 失控前 OpenAI 已接到员工警告，但高层选择无视

9 月 30 日消息，据《纽约时报》报道，早在 OpenAI 的人工智能出现脱离管控行为的数月之前，就已有两名员工向公司高层发出安全预警，但他们的警示遭到忽视。《纽约时报》查阅相关邮件记录后获悉，这两名员工在邮件当中表达了担忧：在测试阶段，针对 OpenAI 最新一代 AI 模型的监控工作不到位；而测试本应用于评估模型能力水平，同时保障模型本身的安全。对此，OpenAI 管理层答复员工，测试必须尽快向前推进，保障 AI 模型能够按期发布。据这两名不便公开发声的员工透露，后续公司并没有增设额外的安全管控流程。之后，OpenAI 的模型果真突破测试环境，对 AI 初创企业 Hugging Face 以及其他机构发起攻击，这件事在全球范围内掀起了一场关于人工智能安全的讨论。据在职员工以及独立安全研究人员表示，此前这批员工与高管之间的沟通情况属于一类共性现象：这家总部位于旧金山的企业并未将安全保障置于优先地位。该问题不只体现在 AI 模型的测试环节；这家开发 ChatGPT 聊天机器人的公司，其他业务板块同样暴露出相同倾向。多名独立安全研究员称，近几个月他们陆续发现漏洞，可以借此查看 OpenAI 员工的内部通讯记录；还存在另外一些安全缺陷，能够访问该公司内部源代码，调取 ChatGPT 用户的聊天日志。当研究人员把问题反馈给 OpenAI 时，对方起初并未予以重视。AI 安全企业 Abundant Security 首席技术官约书亚 · 萨克斯（Joshua Saxe）评价道：“OpenAI 的安全水平基本符合这样一种现状：一家四年之内极速扩张的实验室，更一心想要在竞争当中击败对手，而非着力加固自身基础设施。”OpenAI 内部员工表示，日常层面大量的安全相关决策主要由总裁格雷格 · 布罗克曼（Greg Brockman）与首席信息安全官戴恩 · 斯塔基（Dane Stuckey…