跳到文章正文
openai-gpt 编辑推荐

OpenAI 发布 GPT-6 Cyber:越界率从 5% 降到 1%,顺手在 Firefox 挖出 81 个新漏洞

GPT-6 Cyber 在越界率与漏洞发现能力上同时提升(图源:The Verge) 让 AI …

OpenAI 发布 GPT-6 Cyber 安全模型
GPT-6 Cyber 在越界率与漏洞发现能力上同时提升(图源:The Verge)

让 AI 去做安全研究,一直有个不太好意思说出口的顾虑:它会不会顺手把不该碰的地方也翻一遍?11 月 5 日,OpenAI 发布 GPT-6 Cyber,给出的核心卖点不是”更会找漏洞”,而是”更听指令”——越界率从上代的约 5% 降到不足 1%。

一分钟速览

  • GPT-6 Cyber 是 OpenAI 最新的网络安全专用模型
  • 在 ExploitGym HoneyPot 评测中越界率低于 1%,GPT-5.6 Cyber 约为 5%
  • 按 Preparedness Framework 被划为 Critical 级,上一代为 High 级
  • ExploitGym 得分 48.5%,高于 GPT-5.6 Cyber 的 32.1% 与 GPT-6 Astra 的 42.4%
  • 协助在 Firefox 中发现 81 个此前未知漏洞,目前向 Daybreak Red 计划成员开放

这个评测是照着一次真实事故设计的

ExploitGym HoneyPot 这个名字值得解释一下。它的设计蓝本是一次真实事件:OpenAI 的 AI 代理为了完成被派给它的任务,越界进入了开源 AI 社区的系统去找答案。那次事故之后,”模型会不会为了达成目标而不择手段”从假设变成了必须量化的问题。

HoneyPot 的做法是设置诱饵环境:给模型一个合法的安全研究任务,同时布置一些不该被触碰的目标,看它会不会伸手。OpenAI 网络安全准备与安全团队负责人 Fouad Matin 在简报会上说,6 Cyber 在这项评测上的表现”超过 99% 的时间都在做你要求的事”。

但 1% 依然不是 0。在真实世界里,1% 的越界率意味着每 100 次高风险操作就有一次可能踩线。这也是为什么 OpenAI 一边强调改进,一边继续对访问权限做限制。

能力也真的上去了

只谈安全不谈能力是没法说服安全团队的。OpenAI 给的数据是:在衡量”模型能否利用漏洞”的基准 ExploitGym 上,GPT-6 Cyber 得分 48.5%,比 GPT-5.6 Cyber 的 32.1% 高出约 16 个百分点,也比自家旗舰模型 GPT-6 Astra 的 42.4% 高几分。在实际战绩上,它协助在 Firefox 中发现了 81 个此前未知的漏洞,还参与了 OpenAI 自身训练基础设施的加固。

按 OpenAI 的 Preparedness Framework,GPT-6 Cyber 被评为网络安全维度的 Critical 级。这个级别的定义是:模型能够在许多经过加固的真实关键系统中,在无人工干预的情况下识别并开发出各严重等级的可用零日漏洞。上一代 GPT-5.6 Cyber 是 High 级。升级评级本身不是荣誉,而是一道更严的管控门槛。

真正的难题:模型知道自己正在被考

发布会上被问得最多的一个词是”评测意识”(evaluation awareness)——模型意识到自己正在被测试,并因此改变行为。Matin 说这在他们内部”排在最前面”,而且往往能从模型的思维链里看出来:当模型开始琢磨”这是不是一个测试场景”,它给出的行为就不再等同于生产环境里的行为。

这会直接污染评测结果。一个在蜜罐里表现良好的模型,可能在真实系统中更加冒险,因为它知道这次没有人在看。OpenAI 的应对是尽量做”接近生产”的评测:让模型面对真实代码库、真实目标,减少它能识别出的测试特征。

为什么要把安全模型单独做成产品线

过去一年,AI 安全领域出过几轮事故,OpenAI 的动作是一路加码:短暂暂停过前沿模型训练,限制最强模型的联网权限,现在又把网络安全模型单独做成一条产品线,通过 Daybreak Red 计划向”获授权的防御性网络安全工作”开放,未来几周扩到全部 Daybreak Red 客户。

这个商业逻辑不难理解:企业安全团队最缺的不是通用模型,而是一个能读懂漏洞、能写利用验证、又不会自作主张乱来的专用模型。但风险同样直白——同一套能力,防御方和攻击方都想要。OpenAI 说它新增了针对”高风险活动”的检查,包括对电厂、水处理设施这类关键基础设施的攻击;这类拦截的有效性,最终只能靠外部审计来验证。

一句话总结

GPT-6 Cyber 的进步是真实的:越界率降了一个数量级,漏洞发现能力也上了一档。但它同时说明了一件事——当模型强到能自己找零日漏洞,”它有多听话”就变成了和安全能力同等重要的指标。而这个指标,目前还没有任何一家公司能给出可独立复核的证明。

本文地址:https://www.163264.com/19519