跳到文章正文
anthropic-Claude 编辑推荐

Anthropic 一边呼吁给 AI 踩刹车,一边用 AI 把研发提速一倍

METR 在 Anthropic 内部做了 11 周调查,发现模型能力的提升速度约为一年前的两倍…

一家公司如果在公开场合反复呼吁给人工智能踩刹车,你大概不会想到,它内部的模型正以一年前两倍的速度迭代。这不是修辞上的矛盾,而是 METR 最新报告里的一组实测数字。

Anthropic 一边呼吁给 AI 踩刹车,一边用 AI 把研发提速一倍
Anthropic CEO 达里奥·阿莫代伊。METR 在其内部进行了 11 周调查。

一分钟速览

  • AI 安全研究机构 METR 在 Anthropic 内部做了为期 11 周的调查,报告于周四发布
  • 核心结论:Anthropic 模型的能力提升速度约为一年前的两倍
  • 按基准测试推算,这家公司在过去一年取得了大约两年的历史进度
  • METR 表示”有信心”认为,加速不只是把算力堆得更多
  • Anthropic 获准对报告部分内容打码,而且用得不少

一年走完两年的路

METR 这份报告的切入点很直接:它不看发布会,也不看榜单排名,而是看一家前沿实验室内部,AI 到底在多大程度上参与了 AI 自己的研发。调查持续 11 周,研究人员获得了接近”员工级”的系统访问权限,能够观察研究流程本身。

结论比外界预期更激进。报告称,Anthropic 的模型改进速度大约是去年同期的两倍,基准测试分数显示,这家公司在最近一年里取得了相当于过去两年的进步。换句话说,原本需要 24 个月才能走完的技术曲线,被压缩进了 12 个月。

对于一直跟踪”递归自我改进”讨论的人来说,这组数字的意义不在于快了多少,而在于快的来源。如果加速只是买到了更多显卡,那还属于工程问题;如果加速来自模型开始参与设计下一代模型,那问题的性质就变了。

加速不是因为堆算力

METR 在报告里专门回应了这个疑问。研究人员表示,他们有信心认为,这种加速不能简单归因于计算资源的扩张。也就是说,同样的算力投入,产出的研究进展比一年前更多,多出来的部分更可能来自 AI 工具本身对研发流程的改造:写实验代码、跑消融、读论文、整理结果,这些环节正在被自动化。

这正是”AI 造 AI”从口号变成工程现实的标志。它带来的直接后果是,安全评估的时间窗口在缩短。过去的节奏是,新能力出现,研究者花几个月理解风险,再决定是否发布;当迭代周期减半,评估方的反应时间也跟着减半。

被删掉的部分同样值得注意

报告并非全文公开。按照 METR 与 Anthropic 的协议,后者可以对最终报告的部分内容做删改,而从结果看,这项权利被使用得相当充分。外界因此无法判断,被隐去的是具体的模型细节、内部实验数据,还是某些更敏感的风险观察。

这让报告呈现出一种微妙的状态:它提供了迄今最清晰的一类证据,证明 AI 正在加速自身的研发;同时又留下了大块空白,让人难以评估这种加速究竟走到了哪一步。透明度在这里不是道德姿态,而是公共决策的前提——如果连进度都无法确认,监管就很难谈节奏。

喊减速的和踩油门的是同一个人

更值得玩味的是时间点。Anthropic 首席执行官达里奥·阿莫代伊过去一年多次公开呼吁,实验室应当放慢前沿模型的研发速度,给安全研究留出空间。而这份报告测量的,恰恰是这家公司在同一时期把研发踩到了多深的油门上。

这不必然意味着言行不一。一种解释是,竞争压力下的”单边减速”没有意义——如果对手不减速,先停下来的一方只会失去制定规则的位置。但这个解释也暴露了行业治理的死结:所有人都知道该慢一点,却没有人愿意第一个松脚。

趋势洞察

把这份报告放到更大的背景里看,它标记的是一个转折点。此前关于 AI 自我改进的讨论,多半停留在思想实验和厂商预告里;现在有了第三方机构在真实实验室内部采集的数据,讨论开始有了刻度。

接下来的关键问题有三个。第一,这种加速能否被外部独立验证,还是只能依赖实验室自愿开放。第二,评估机构能不能跟上迭代速度,避免评估报告永远滞后一个版本。第三,当”一年等于两年”成为常态,算力、电力、人才的供给曲线会不会成为新的瓶颈。

对普通用户来说,这些讨论看似遥远,但它决定了一件事:未来一两年里,你手里的 AI 产品会以多快的频率换掉旧能力。而对监管者来说,留给他们的时间,可能比想象中更少。

本文地址:https://www.163264.com/19831