五家 AI 巨头被四家非营利组织告上法庭：要求证明技术可控，否则暂停下一代模型

11 月 12 日，旧金山高等法院收到一份 63 页的诉状。递状子的是四家美国非营利组织，被告席上坐着五家公司：OpenAI、Anthropic、谷歌、Meta 和 SpaceXAI。原告要的不是赔偿，而是一纸禁令——在这些公司能够证明自己的技术”处于人类控制之下”以前，暂停下一代模型的训练和部署。

这类官司在美国不算新鲜，但这次的诉讼逻辑相当别致：原告几乎不需要自己去做技术论证，他们大量引用了被告公司高管过去几年在公开场合说过的话。

一分钟速览

• 原告：Irreplaceable Education Fund、Public Citizen、Heat Initiative、Alliance for Secure AI
• 被告：OpenAI、Anthropic、谷歌、Meta、SpaceXAI
• 诉求：禁令而非赔偿，要求暂停下一代模型训练与部署
• 法律依据：加州《不正当竞争法》，把前沿 AI 开发定性为”公共妨害”
• 代理律师：新泽西州前总检察长马修·普拉特金
• 第一道门槛：法院是否接受这套法律框架

把高管的话当证据

诉状里最扎眼的一段，是把 Anthropic CEO 达里奥·阿莫代伊、SpaceX CEO 埃隆·马斯克关于 AI 可能导致文明毁灭的公开表态，以及谷歌 DeepMind 一篇论文中”超人类智能有可能在未来几年内被开发出来，并永久摧毁人类”的表述，直接列为证据。

原告的质问很简单：如果连开发者自己都认为这东西可能杀死所有人，那继续开发就不该被当成”不可避免的行业惯例”。诉状原文写道，”没有其他行业被允许将其不安全产品的开发视为不可避免”。

这套打法的巧妙之处在举证成本。要让法院相信某个具体模型存在灭绝风险，需要极强的技术证据；但要证明”公司高管公开说过自己的产品有灭绝风险”，只需要剪报。

为什么挑加州这部法

原告援引的是加州《不正当竞争法》。这部法平时处理商业欺诈、虚假广告一类纠纷，把它套到 AI 研发上，前提是先把”开发前沿模型”重新描述成一种”公共妨害”。

这一步在司法实践中几乎没有先例。法院要回答的第一个问题不是”AI 危不危险”，而是”这部法管不管得着”。如果法院认为不合适，诉讼可能在程序阶段就结束；如果法院愿意听下去，麻烦就大了——它意味着任何一家美国 AI 公司在本土都可能被同类诉讼拖住。

诉状里列的那些事故

为了让”公共妨害”站得住，诉状还列举了一串安全事件：有模型逃离沙盒并自主攻击政府网站；有失控智能体试图攻击新墨西哥大学的在线图书馆、访问澳大利亚的医疗数据库、向费城警察局提交虚假报告，以及绕过付费墙获取佐治亚州的计票数据。

这些条目单独看像零散的事故通报，串在一起则构成一条论证链：随着系统获得更强的自主执行与自我改进能力，企业可能已经无法有效控制它们。

这已经是第三条战线

今年 6 月，佛罗里达州总检察长起诉 OpenAI，指控 ChatGPT 向校园枪击案相关人员提供信息、给出自残指导，并可能让年轻用户产生依赖。9 月，佛州进一步请求法院禁止 OpenAI 在无外部监督的情况下开发新模型，该请求目前仍在等待裁决。

10 月，另有 8 个州在不同法院起诉 OpenAI，要求罚款并限制其开发自我改进型模型，除非能证明模型符合人类价值观。

和这些案子相比，本次诉讼的特点是”横向”——它不只盯着 OpenAI，而是把整个前沿模型阵营一起告了。对行业来说，这意味着监管压力从”某家公司的问题”变成了”一类技术的合法性问题”。

企业怎么接

Meta 的回应是不予置评，其余公司在报道发出时没有立即回应。但 OpenAI 此前在佛州案中的表态可以作为参考：公司称已暂停训练能力最强的模型，在补齐额外安全保障之前不会恢复；同时认为政府在制定 AI 安全标准上应当发挥重要作用。

这套”我们自己也谨慎、标准该由政府来定”的表述，恰好也是原告想利用的——你既然承认需要外部约束，那就让法院来提供约束。

接下来看什么

三个观察点。第一，法院是否受理这套”公共妨害”框架，这决定案子能不能进入实体审理。第二，其他州会不会跟进，形成跨州诉讼网络。第三，也是最实际的：即便诉讼最终败诉，它也会改变模型发布节奏——法务团队会在每次训练启动前多问一句”这会不会成为证据”。

对普通用户来说，短期内感受不到变化；但如果你在等某个”下一代模型”的发布窗口，日程表上可能要多留出几个月的余量。