一句”想去托儿所开枪”:悉尼男子向 Claude 倾诉后被逮捕,聊天记录成了证据
一句本该只存在于私人对话框里的话,最终出现在了法庭文件上。澳大利亚悉尼一名 29 岁男子向 An…
文章目录
一句本该只存在于私人对话框里的话,最终出现在了法庭文件上。澳大利亚悉尼一名 29 岁男子向 Anthropic 的聊天机器人 Claude 描述了自己想袭击托儿所的念头,随后被警方逮捕。案件把一个尖锐的问题摆到了台面上:当 AI 成为人的”树洞”,它到底该守口如瓶,还是在关键时刻拉响警报?
一分钟速览
- 悉尼男子戴维·兰·萨克雷向 Claude 表示想枪击住所附近托儿所的儿童,随后被警方拘留。
- 对话引起国际刑警组织注意,当事人于当地时间 18 日被捕,被控利用通信服务实施骚扰、恐吓或冒犯行为。
- 检方称他提到邦迪海滩恐怖袭击嫌疑人,并表达了模仿作案的意图;辩护律师称其只是情绪失控、以为对话是私密的。
- 国际刑警组织如何获得聊天记录、Anthropic 是否主动提供,目前均不清楚。
事件经过
据《悉尼先驱晨报》报道,萨克雷在与 Claude 的对话中说:”我现在就想去附近的韦斯特菲尔德购物中心,朝当地的托儿所开枪扫射。”他还谈到了大规模杀害儿童,并提到了纳维德·阿克拉姆——后者被控于 2025 年 12 月在悉尼邦迪海滩的光明节庆祝活动中发动袭击,造成 15 人死亡。
检察官在法庭上把这段对话视为动机证据:”他就是想像邦迪那名涉嫌实施恐怖袭击的男子一样,在悉尼大开杀戒。通过他与聊天机器人的对话,我们可以了解他究竟在想什么。”警方最终指控他利用通信服务实施骚扰、恐吓或冒犯行为,违反澳大利亚刑法相关条款。案件目前仍在审理,当事人将接受心理健康评估。
三个尚未回答的问题
第一,国际刑警组织是怎么拿到聊天记录的?报道明确说,这一点目前不清楚。是 Anthropic 主动上报,还是通过某个国家的执法渠道调取,抑或是第三方泄露,几种可能对应完全不同的法律与伦理结论。
第二,AI 公司有没有”强制报告”义务?在多数司法辖区,内容平台对用户私密对话的主动扫描与上报,本身就处于灰色地带。一方面,及时阻断暴力威胁可能救命;另一方面,无差别监控私人倾诉会摧毁用户信任,也可能违反隐私法。
第三,用户对”私密”的合理期待是什么?辩护律师强调,萨克雷一直以为自己与 Claude 的对话属于私人交流。这种认知在 AI 产品里非常普遍:界面像聊天软件,语气像朋友,隐私政策却写着数据可能用于安全审查或人工标注。产品体验与法律文本之间的落差,是这类争议反复出现的根源。
聊天机器人正在成为”树洞”
这不是孤例。近年来,AI 聊天机器人越来越多地承接情绪宣泄、妄想叙述和极端念头。已经有多起犯罪事件被认为与当事人长期使用聊天机器人存在关联,包括一起杀人后自杀案,以及 2025 年美国佛罗里达州立大学枪击案、今年 2 月加拿大塔布勒岭校园枪击案等。部分跟踪骚扰者、存在偏执或过度迷恋的人,也会从”随时回应、倾向顺从”的 AI 那里获得情绪支持。
这构成一个结构性矛盾:模型被训练得更有同理心、更少打断用户,才能提供情感价值;但同样的顺从性,也可能强化错误信念。安全对齐通常关注”模型会不会说出危险内容”,却较少处理”用户说出危险内容时,模型该怎么办”。
平台的两难
从产品角度看,最直接的方案是建立分级响应:识别到明确、具体的暴力威胁时,先给出求助资源,再触发内部安全团队复核,必要时联系执法部门。难点在于阈值——”我恨这个世界”和”我明天要去某地杀人”之间,需要一套可解释、可审计的判断标准,而不是靠模型自由发挥。
从监管角度看,各国对 AI 生成内容的义务正在快速收紧,但对”用户输入”的处理仍缺少统一规则。澳大利亚近年来在青少年社交媒体、网络暴力方面立法积极,这起案件很可能成为推动”AI 服务商报告义务”讨论的契机。
趋势洞察
AI 陪伴类产品的增长,正在把”隐私”与”安全”从抽象原则变成具体账单。未来一两年,行业大概率会出现三层结构:产品端的危机识别与转介、公司端的安全事件响应团队、监管端的分级报告制度。谁先把这套流程做扎实,谁就能在事故发生时拿出可核验的记录;反之,一次本可阻止的悲剧,足以让整个品类付出代价。
本文地址:https://www.163264.com/17915