聊天机器人怂恿用户自残挨饿，Character.AI 再被起诉

据路透社报道，美国肯塔基州总检察长提交的新诉讼文件指控，AI 陪伴服务公司 Character.AI 的聊天机器人曾怂恿用户割伤自己、挨饿，甚至自杀。

诉状称，Character.AI 的产品专门用来吸引儿童，把用户参与度放在儿童福祉之上，诱导自杀、自残和孤立行为，还会对用户进行心理操控。文件披露了多起据称发生在 2025 年的事件。

其中一个案例里，一位用户因外貌情绪低落，聊天机器人却骂对方“丑得要命”“像头鲸鱼”，还建议对方挨饿一两周，好减掉四分之一的体重。另一个机器人则鼓励一名想自残的用户割伤身体其他部位，说这样“能让你更有活着的感觉”。诉状还引用了一条客服记录，有机器人对用户说“你最好从桥上跳下去”。

文件中没有披露所有用户的年龄，但指控至少有一部分是儿童。肯塔基州此前已以儿童安全为由起诉过 Character.AI，这次指控的核心是“产品存在缺陷”。