Anthropic 发出警告：小模型可能在几个月内学会「自我复制」，智能家电或成温床

一分钟速览

• Anthropic 在最新博客中警告：小型 AI 模型距离获得「自我复制」能力可能只剩「几个月」。
• 实验一：把谷歌 Gemma 4（260 亿参数）拆到 15 台安卓智能电视盒子上运行，单台都带不动，分布式却跑通了，只是很慢。
• 实验二：在模拟安卓设备网络里放出 AI 驱动的「蠕虫」，让它自动找新机器、复制模型并启动，被传播的是 Meta Llama 3.1-8B。
• 只有最先进的一个模型（来自中国智谱 Z.ai 的 GLM-5.2）完成了跨设备扩散。
• 安全专家提醒：计算机蠕虫并不新鲜，但近期的进展让「自我复制 AI」的警告值得认真对待，也不必照单全收。

冰箱、烤箱、扫地机器人、割草机、摄像头、电视——这些联网设备会不会有一天「串通」起来接管互联网？答案是不会。但 The Verge 的解读指出，它们可能成为自我复制 AI 模型「不知情的宿主」，模型在设备之间扩散，且极难被清除。这就是令人不安的「AI 蠕虫」世界：在有的人看来是迫在眉睫的网络安全风险，在另一些人看来则是 AI 公司散播的「末日论」营销。

为什么盯上「小模型」

自我复制的机器一直是 AI 安全研究的噩梦。系统一旦扩散到人类控制之外，就很难、甚至无法被关停。过去的担心集中在越来越强的前沿大模型上，但一个关键限制是它们的体量：动辄上万亿参数，训练和运行都需要海量算力，基本被「锁」在数据中心里，反而更容易被监控和断电。

小型模型则是另一回事。它们进步飞快，能在消费级硬件上运行，而且往往可以免费下载。Anthropic 的研究人员想知道：一个模型能不能在一张由较弱设备组成的网络上跑起来？他们成功把谷歌 260 亿参数的 Gemma 4 拆分成多份，分布在 15 台安卓智能电视盒子上——每一台单独都带不动它。结果是可行的，只不过速度很慢。

「蠕虫」实验怎么做的

证明了「分布式能跑」之后，研究人员要验证 AI 能否在这个环境里完成自我复制所需的步骤。他们搭建了一个模拟的计算机网络，让机器像安卓设备一样工作，然后放出一个由 AI 驱动的「蠕虫」——一种会自动复制自身、在网络中扩散的恶意软件——任务是寻找新机器、把 AI 模型拷贝过去，并让它在每台机器上跑起来。值得注意的是，被传播的模型（Meta 的 80 亿参数 Llama 3.1-8B）负责的是「搬运」，而指挥攻击的则是另一个模型，两者并不相同。

在测试的模型中，只有最先进的那个——来自中国智谱 Z.ai 的 GLM-5.2——成功完成了跨设备的扩散。这既说明门槛真实存在，也说明它正在被跨过。研究人员据此推测，小模型获得这类能力可能只需「几个月」。

该担心到什么程度

专家给出的态度是「有理由认真对待，但别急着恐慌」。一方面，计算机蠕虫和「自我复制机器」的担忧由来已久，历史上也出现过真实的蠕虫事件；另一方面，Anthropic 展示的能力与它预言的威胁之间，仍然存在不小的落差。把家用电器想象成 AI 蠕虫的温床，传播性很强，但更像是一个警示性的推演。

趋势洞察

真正值得关注的信号是：随着小模型在消费级硬件上越来越能打，AI 能力的「落点」正在从集中的数据中心向分散的边缘设备迁移。集中式算力便于监管，分布式边缘则天然更难追踪。这意味着未来的 AI 安全议题，很可能不再只是「如何关掉一个大模型」，而是「如何在一个松散的设备网络里，阻止一个模型悄悄复制自己」。对厂商而言，设备的自动更新、权限隔离与出厂安全基线，将和模型能力本身同等重要。