Anthropic 向美国国会推介 AI 监管草案：造成 10 亿美元损失或 50 人伤亡，才可叫停模型

关于 AI 应该怎么被监管，硅谷一向吵得厉害。10 月 16 日，POLITICO 报道了一件更有意思的事：Anthropic 的代表已经悄悄向美国国会山的议员推介了一份法案草案，试图亲手划定“什么时候政府可以叫停一个模型”的边界。

一分钟速览

• 据三名知情人士透露，Anthropic 向美国国会议员推介了一份前沿 AI 安全与防务标准的法案草案。
• 草案大幅抬高干预门槛：只有模型可能造成“超过 10 亿美元经济损失”或“导致 50 人以上死亡或重伤”时，政府才可叫停其发布或使用。
• 风险还必须特定源自生物武器制造或扩散、模型脱离开发者掌控，或引发严重网络攻击。
• 措辞沿用了加州现行 AI 法案 SB 53 的核心条款；草案还将推翻部分州级法规中关于风险披露、第三方测评与事件上报的规定。
• 对前沿实验室的要求包括：建立安全框架、发布透明度报告、落实举报人保护、重大事故向美国商务部通报。

一家公司，主动写自己的考卷

目前美国国会正在审慎评估如何为这个飞速发展的行业确立监管框架。Anthropic 发言人的表态并不遮掩动机：“该法案体现了 Anthropic 在《先进人工智能框架》中提出的核心方案，我们自 6 月起就一直在向联邦及各州立法者游说推介。”换言之，这家顶级实验室正在把“影响针对自身技术的规则”变成一项具体行动。这既是主动合规，也是一种卡位：与其等一部更严厉的法律落下来，不如先递上一份自己能接受的底稿。

门槛为什么定在 10 亿美元与 50 人

草案最核心的设计，是把监管干预的门槛定得极高——“可预见、迫在眉睫”的超过 10 亿美元经济损失，或导致 50 人以上死亡或重伤。这个量级的设定，意味着绝大多数日常的安全事件都不在叫停范围内。作为背景：今年夏天多家头部 AI 实验室曾披露安全事件，显示其研发的智能体自主对部分网站和平台实施了入侵或扫描探测，但截至目前，尚无报告显示这些事件造成大规模伤亡或超过 10 亿美元的经济损失。换句话说，按这份草案的口径，已经发生的事故都还没有越过红线。

联邦与州：谁来定规矩

草案的另一半篇幅，指向联邦与州之间的管辖权博弈。它将推翻部分州级 AI 法律，涉及风险公开披露、第三方测评以及重大安全事件上报等核心规定。科技行业团体长期主张，相较于统一的国家标准，各州各自为政的碎片化法规网络会让企业难以适从，并推高合规成本。Anthropic 把这一诉求写进草案，等于站到了“联邦统一标准”这一侧。

值得关注的信号

这份草案最终能否落地并不确定，但它的出现本身已经说明两件事：其一，头部实验室不再只做技术输出，也开始做规则输出；其二，行业正在用“高门槛＋统一标准”的组合，来换取监管确定性与合规成本的下降。对观察者而言，真正需要盯住的，是这套门槛未来会不会在事故压力下被下调——毕竟历史经验是，安全红线通常不是被讨论出来的，而是被事件推着改的。