OpenAI打造AI网安”红队”：GPT-Red模型专门攻击自家产品，提示注入攻击成功率降至0.05%

核心看点

OpenAI发布内部网络安全”红队”模型GPT-Red，专门用于攻击自家产品。通过自博弈强化学习训练，最新GPT-5.6 Sol在直接提示注入攻击中的失败率仅有0.05%。

什么是AI”红队”？

在网络安全领域，”红队”是指专门模拟攻击者行为的团队，通过主动攻击来发现系统漏洞。OpenAI将这一概念应用到AI安全领域，训练了一个专门攻击自家模型的AI——GPT-Red。

GPT-Red的训练方式：自博弈强化学习

GPT-Red采用了一种类似AlphaGo的自博弈训练方式：

• 攻击方（GPT-Red）：因成功诱发模型失败而获得奖励
• 防御方（产品模型）：因抵抗攻击并完成原始任务而获得奖励

随着防御模型变得越来越强大，GPT-Red被迫发现更强大、更多样化的攻击方式。这种”以攻促防”的良性循环，让OpenAI的产品安全性不断提升。

安全提升的显著成果

OpenAI表示，过去半年自GPT-5.3后的每个生产模型均将”红队”模型用于训练，取得了显著成效：

• 伪造思维链型攻击的成功率从GPT-5.1上的95%降低至最新模型上的不足10%
• GPT-5.6 Sol在GPT-Red的直接提示注入攻击中失败率仅有0.05%

安全隔离与良性循环

OpenAI特别强调，”红队”模型与产品模型相隔离，确保攻击训练不会影响实际用户。公司相信这已开启了良性的AI网络安全循环：利用现有模型来增强未来模型的鲁棒性、一致性和可信度。

行业意义

随着AI能力的不断增强，AI安全问题日益受到关注。OpenAI通过GPT-Red展示了一种 proactive 的安全策略：不是等问题暴露后再修复，而是主动训练AI来发现和修补漏洞。

这种”以AI攻AI”的思路，可能成为未来AI安全领域的标准做法。

总结

GPT-Red的发布标志着AI安全进入了一个新阶段。通过让AI自己攻击自己，OpenAI不仅大幅提升了产品的安全性，也为整个行业提供了一种可复制的安全训练范式。在AI能力越来越强的今天，这种主动防御策略可能比任何被动修复都更加重要。