Anthropic 推 AI 安全法案草案：50 人死亡或 10 亿美元损失，模型可以被叫停

AI 公司一边发布更强的模型，一边游说政府给自己立规矩，这听起来有点矛盾，却正在华盛顿发生。据 Politico 报道，Anthropic 正在推动一份 AI 安全法案草案，希望国会考虑采纳。草案的核心是：在某些极端风险场景下，一个模型可以被阻止发布。

一分钟速览

• 草案设定的触发条件是「可预见、迫在眉睫的风险」：超过 50 人死亡，或超过 10 亿美元财产损失。
• 风险来源限定为三类：制造生物武器、模型脱离开发者控制、网络攻击。
• 评估由在美国商务部注册的独立评估机构完成，评估机构可以由 AI 公司付费，但付费不得与评估结果挂钩。
• 评估机构认定存在灾难性风险后，须在 72 小时内通知商务部，再由商务部向华盛顿特区法官申请叫停发布。
• 草案明确禁止任何联邦机构自行决定中止模型分发。

这套机制怎么运转

按照草案设计，模型发布前会经过独立评估。评估机构需要在商务部注册，判断模型是否存在「可预见且迫在眉睫」的灾难性风险。触发门槛有两个数字：超过 50 人可能死亡，或超过 10 亿美元财产可能受损。风险必须来自生物武器制造、模型绕过开发者控制，或者网络攻击，而不是泛泛的「社会影响」。

一旦评估机构认定风险成立，它要在 72 小时内通知商务部。商务部不能自己下命令，必须向华盛顿特区的一名法官申请停止该模型的发布。草案特意写明，任何联邦机构都无权自行裁量中止模型分发。这个设计明显是在回应产业界对「监管俘获」和「行政扩权」的担忧：决定权被拆成评估、通报、司法审查三段，每一段都有制衡。

50 人和 10 亿美元，从哪来的

这两个数字并不新鲜。它们与加州近期通过的一项 AI 安全立法中的「灾难性风险」定义高度相似。换句话说，Anthropic 把州层面的门槛搬到了联邦草案里。对一个已经在加州运营的公司来说，这套标准并不陌生，推动联邦版本的好处是避免各州各搞一套、合规成本叠加。

但数字本身也有争议。50 人死亡是一个很具体的门槛，可 AI 造成的伤害往往是弥散、延迟、难以归因的：招聘歧视、医疗建议偏差、金融风控误判，很难对应到「某一次事件死了多少人」。草案把风险限定在生物武器、失控和网络攻击三类，等于承认：它管的是「灾难片式」的风险，不是日常的算法伤害。

谁有资格做评估

草案允许 AI 公司为评估付费，只要付费不与结果挂钩。这个安排很现实：独立评估需要算力、人力和时间，公共财政未必愿意承担；让被监管者付费，是很多合规体系的常见做法。但「付费不影响结论」在制度上怎么保证，草案没有给出细节。

这也让人想起 DeepMind 主席 Demis Hassabis 此前提出的想法：建立一个类似金融业 FINRA 的自律监管机构，由行业出资、独立运作。支持者认为，AI 技术门槛太高，只有同行才看得懂；反对者担心，行业出钱、行业定标准，最后会变成「自己给自己发驾照」。

为什么 Anthropic 要主动推

Anthropic 的发言人对媒体确认了草案，并称它体现了公司自六月以来向联邦和州立法者倡导的「先进 AI 框架」。一家模型公司主动要求被监管，通常有三种动机：一是真心认为风险需要约束；二是用合规门槛抬高竞争成本，让小公司更难追赶；三是抢在更严厉的立法到来之前，先写一份自己可接受的版本。

这三种动机并不互斥。对大模型公司来说，最坏的局面不是「有监管」，而是「规则由不了解技术的人来写」。主动提交草案，至少能确保「独立评估」「司法审查」「风险门槛」这些关键设计进入讨论。

真正的难题在执行

即便法案通过，执行也不轻松。评估机构如何保持独立？模型迭代以周为单位，评估周期能不能跟上？如果模型已经开源、权重已经扩散，叫停发布还有意义吗？草案管的是「发布」这个动作，但 AI 风险的很多环节发生在发布之后：微调、部署、接入工具、被恶意使用。

还有一个现实问题：谁来判定「可预见」。模型开发者可以说风险不可预见，评估机构可以说已经足够明显，最后可能落到法官对技术证据的理解上。司法审查是必要的制衡，但也可能把复杂的技术判断变成一场专家证词的拉锯。

趋势洞察

AI 监管正在从「原则宣言」进入「具体门槛」阶段。过去两年，行业听到的多是「负责任」「安全」「透明」这类词；现在开始出现 50 人、10 亿美元、72 小时、注册评估机构这样的可执行参数。参数一旦写进法律，就会反过来塑造模型公司的发布流程和文档习惯。

对开发者和企业用户来说，这件事的直接影响可能不是「模型会不会被禁」，而是「采购模型时要多问几个问题」：它做过哪些独立评估？风险评估报告能不能看？如果监管叫停，服务中断的预案是什么？AI 供应链的合规时代，可能比想象中来得更快。