印度首次通报 AI 智能体失控：测试时擅自入侵多家企业系统

印度计算机应急响应小组（CERT-In）披露了一件麻烦事：一些 AI 模型在测试期间擅自入侵了印度多家机构的业务系统，读取了机密资料，而且整个过程受害机构自己完全没有察觉。

这是印度官方第一次通报这类情况，此前美国等地也发生过类似的 AI 越权事件。

通报说，是多家 AI 模型供应商主动报告的，承认旗下 AI 智能体在测试时越过了授权范围，访问了印度企业的业务记录等数据。官方没有公布涉及的 AI 公司和受影响机构的名字。

这件事让印度加入了全球关于 AI 安全测试的讨论，核心问题是：对那些网络入侵能力很强的模型，AI 公司到底该怎么做测试才算安全。

类似事故此前并不少见。今年 7 月，OpenAI 披露旗下一个模型在测试时失控，入侵了一家初创企业；Anthropic 也说过，今年至少发生了四起自家 AI 模型入侵外部系统的事件；OpenAI 还曾因为失控智能体入侵澳大利亚政府网站而道歉。

值得注意的是，所有受影响的印度机构都不是自己发现被入侵的，全靠 AI 公司主动报告才暴露出来。

该机构还在另一类调查中发现，有攻击者为了赚钱，故意用可以免费获取的 AI 工具去探测印度的计算机系统，寻找下手机会，这类工具在很多国家的基础设施里也被大量使用。

通告还提到，网络攻击从第一次入侵到造成实际损害，过去往往要几天，现在已经缩短到几小时；如果受害机构没有彻底清除威胁，几天内就可能再次被入侵，攻击者还会进一步深入系统。