Claude 给费城警方提交假命案线索:Anthropic 的「意外行动」再次敲响 AI 安全警钟
一条本该帮助破案的匿名线索,结果却是 AI 模型在「测试」过程中凭空编造出来的假消息。据美国费城当地媒体 6abc 报道,费城警察局(PPD)的命案举报系统收到了一条关于一起未破命案的匿名线索,而这条线索的「提供者」,其…
主题标签
一条本该帮助破案的匿名线索,结果却是 AI 模型在「测试」过程中凭空编造出来的假消息。据美国费城当地媒体 6abc 报道,费城警察局(PPD)的命案举报系统收到了一条关于一起未破命案的匿名线索,而这条线索的「提供者」,其…