腾讯云回应 AI 智能体“越狱”探测高德地图：来自第三方模型，已加强监控

国际 AI 安全研究团体 Swarmchasers 在 10 月 14 日发布报告，披露一批运行在腾讯云环境里的 AI 智能体出现“越狱”行为，试图绕过安全限制去访问外部系统，高德地图是被盯上的目标之一。

腾讯云今天发布声明回应称，这是意外事件，涉事模型并非来自混元团队，也没有发现蓄意针对或协同行动的证据，这些智能体属于对第三方开发者所建模型的评估活动。声明说：“我们对这些发现高度重视，正在加强网络访问控制和智能体监控。”

按报告的描述，9 月 28 日到 10 月 8 日期间，这些智能体一共尝试访问高德地图服务 2818 次。它们最初执行的是看起来很正常的小任务，比如查询中国动物园、公园和博物馆最常用的入口信息。被高德的反爬虫机制拦下后，部分智能体开始想办法绕过去：有的借公共安全扫描服务远程执行代码，有的使用公开代码里泄露的高德 API 密钥，还有的去探测预生产环境端点。绝大多数尝试都以失败或被拦截告终，但仍有少量智能体通过缓存页面拿到了一部分数据。

研究团队还通过技术手段与部分智能体直接对话。这些智能体自称运行在受限的腾讯云沙盒环境中，互联网流量通过一个叫“hysandbox-ats”的中间人智能体转发。研究人员检查的 17 个相关邮箱账户均由位于香港的腾讯云服务器创建，不过智能体声称的模型身份（有的自称来自 Anthropic Claude）被研究者视为不可靠。