跳到文章正文
anthropic-Claude 编辑推荐

Anthropic 上新「反蒸馏」防护:模型蒸馏攻击窃取数据量最高降低 99%

大模型领域的「技术窃取」正变得越来越隐蔽,而头部玩家的反击也在升级。Anthropic 当地时间…

大模型领域的「技术窃取」正变得越来越隐蔽,而头部玩家的反击也在升级。Anthropic 当地时间周一宣布,公司推出了多项新防护措施,专门用来防止竞争对手通过「模型蒸馏」复刻 Claude 的能力。据官方数据,这套防护已经把蒸馏攻击中被窃取的数据量降低了约 90% 至 99%。

一分钟速览

Anthropic 推出多项新防护措施,旨在防止竞争对手通过模型蒸馏复刻 Claude AI 模型能力,已将被窃取的数据量降低约 90% 至 99%;官方称,蒸馏攻击者所能提取到的推理词元数量,仅为之前的十分之一至百分之一;模型蒸馏已被 Anthropic、OpenAI、谷歌等头部企业视为能以更低成本、更快速度复刻前沿能力的重要手段。

蒸馏攻击为何让大厂头疼

模型蒸馏的本质,是让一个「学生模型」通过大量观察「教师模型」的输出,来学习后者的能力。对于前沿模型而言,推理过程(尤其是思维链里暴露的推理痕迹)一旦被批量提取,就意味着竞争对手可以用远低于原始训练的成本,复刻出一份「近似能力」。

这击中了头部 AI 企业最敏感的一根神经:他们花费数十亿美元训练出来的前沿能力,可能被对手用几分之一的成本「搬运」。因此,Anthropic、OpenAI、谷歌等企业都把限制「蒸馏」列为重点防御方向,核心目标就是让外界拿不到、至少是拿不全模型的推理过程。

99% 是怎么做到的

Anthropic 的这套防护,核心在于「限制外界获取 Claude 的推理过程」。通过大幅减少推理词元的对外暴露,攻击者能从单次交互中提取到的有效信息被压缩到了原来的十分之一到百分之一。换句话说,过去需要「搬」一百步的内容,现在可能只能搬走一步——蒸馏的效率被从根上打了下来。

值得注意的是,这种防护需要在「模型能力」和「安全性」之间做平衡:过度隐藏推理过程,可能影响模型的可解释性与用户体验。Anthropic 能给出「90% 至 99%」这个量化区间,说明它已经在两者之间找到了一个可落地的折中点。

趋势洞察

「反蒸馏」正在成为前沿模型竞争的新战场。当模型能力越来越接近,谁的知识产权保护做得更好,谁的先发优势就能维持得更久。这场攻防的本质,是 AI 产业从「拼研发」走向「拼护城河」的信号。对开源与闭源之争而言,这也提出了一个更深的问题:在技术越来越透明的时代,前沿模型企业该如何在「开放」与「保护」之间,找到自己的那条分界线。

本文地址:https://www.163264.com/16811