Anthropic CEO Dario Amodei回应开源争议：从未主张禁止开放权重模型

核心看点

• 20多家科技公司签署支持开放权重AI的公开信，Anthropic保持沉默遭批评
• CEO Dario Amodei发文澄清：Anthropic从未主张禁止开放权重模型
• Amodei倡导严厉打击工业规模的蒸馏操作，所有模型都应接受强制性安全测试
• 他认为开放权重模型可能让攻击者比防御者更有优势

详细解析

7月28日消息，近期关于AI是否要开放权重（Open-weight）的话题成为行业讨论焦点。上周五，包括英伟达、Meta和微软在内的20多家公司共同签署了题为《开放权重与美国AI领导力》的公开信，支持开放权重AI。到了周末，OpenAI、谷歌和SpaceX也签署了这封信。Anthropic则一直保持沉默，遭到同行批评。

今天，Anthropic的CEO Dario Amodei终于坐不住了，在官网发布一篇《我们对开放权重模型的立场》的文章。他表示，许多科技公司签署了支持开放权重模型的声明，甚至有人指责Anthropic试图通过禁止开放权重模型来保护自己的业务利益。

Amodei明确回应：”任何读过我以往文章的人都应该明白，我并不认为这种禁令是一种有效的措施。不过，我要明确地说，Anthropic从未主张过对开放权重模型的禁令。”

Amodei的核心观点

Dario Amodei表示，那些没有危险功能的开放权重模型是一种公共资产：它们除了运行所需的计算资源外不会造成任何成本，同时还能为企业、开发者以及研究人员带来价值。

但他认为，保护主义禁令无法解决他最为关心的国家安全问题。他倡导严厉打击工业规模的蒸馏操作，并且无论是开源还是闭源模型都应该接受强制性的安全测试。

Amodei表示他同意公开信中的大部分观点，但不认同信中提出的部分观点，即开放权重模型必然更容易实现防护措施，或者广泛获取能力会让防御者比攻击者更有优势。在他看来，情况可能恰恰相反。

生物学领域的类比

Amodei举了一个例子来表达他的担忧，类似于生物学领域会出现明显的攻防不对称现象：那些能力强大的模型或许能够利用现成的材料快速制造出具有大规模杀伤力的病毒，而针对这些病毒的防御则是一项需要多年时间才能完成的任务。

他认为，这类问题应该通过严格的发布前测试来加以验证，而不是事先就做出假设。

总结

这场关于AI开源与闭源的争论反映了AI行业在安全与创新之间的艰难平衡。Anthropic的立场并非反对开源，而是强调需要在开放与安全之间找到合理的边界。随着AI能力的不断提升，如何在促进技术共享的同时防范潜在风险，将成为整个行业需要共同面对的挑战。