一张幻灯片让他离开 Anthropic：算法效率正在加速

曾在 OpenAI 和 Anthropic 任职、因公开警告 AI 风险而受关注的研究员雅各布·考克森，说清了自己离开 Anthropic 的原因：IPO 路演上的一张幻灯片。

他在 Anthropic 只待了大约四个月。让他下决心的，是一张展示 AI 模型训练算力需求变化的图表——坐标轴做了压缩，算力需求涨 10 倍和涨 100 倍看起来差别不大。可即便这样压缩，曲线依然是陡峭上升的。

考克森由此判断，算法效率不仅提升得快，而且还在加速。“这张图实在太惊人了，没想到他们竟然会公开。”他认为 Anthropic 今年春季推出的 Mythos 性能大突破不是偶然，而是超指数增长趋势中的一个节点。用他的话说：现在只需耗费最初训练时的一小部分算力，就能把 Mythos 重新训练出来。

更进一步，他认为算法改进即将被自动化，因此主张明年暂停前沿 AI 模型研发，让竞争对手有机会追上。在他看来，这样做会让达到人类水平的智能变成可以广泛获取的商品，真正受损的只有 OpenAI 和 Anthropic 这样的头部公司。

考克森曾在 OpenAI 负责模型训练，今年 9 月公开警告先进 AI 系统可能带来的风险，引发广泛关注。业内的担忧集中在一点：能够不断自我改进的先进 AI，最终可能脱离人类控制。