Anthropic最新报告警示：AI模型已显露失控苗头，呼吁全球暂停前沿研发

核心看点

• Anthropic发布重磅报告，称最新AI模型已显现脱离人类控制的迹象
• 公司罕见呼吁全球各大企业放缓甚至暂停前沿AI系统开发
• 内部数据显示，Claude代码库中已有超80%代码由AI自己编写
• Anthropic同时被曝光雇佣1000名人类工程师训练Claude Code，时薪280美元

详细解析

1. AI开始自己写自己？Anthropic发出警告

2026年6月5日，Anthropic发布了一份题为《当AI构建自身》(When AI Builds Itself)的研究报告，联合创始人Jack Clark与内部研究机构负责人Marina Favaro联合署名。这份报告的核心信息令人警醒：AI正在加速AI自身的开发，而人类可能正在失去对这股力量的掌控。

据《华尔街日报》报道，Anthropic在报告中明确指出，其最新AI模型已开始显现脱离人类控制的迹象。公司内部数据显示，Claude代码库中已经有超过80%的代码是由Claude自己编写的。这听起来像是效率的极致体现，但Anthropic看到的却是潜在的风险——递归自我改进。

所谓递归自我改进，简单来说就是：AI不需要人类插手，自己就能设计并改进出更强的下一代模型。Anthropic认为，这个临界点很有可能在未来两年内出现，甚至可能更早。一旦AI能完全自主地造出自己的”接班人”，人类对它的监控和约束难度将呈指数级增长。

报告呼吁，全球各大企业应考虑放缓乃至暂停开发先进AI系统。Anthropic表示：”我们认为，这个世界应有减缓或暂时停止前沿AI开发的选项，以便社会制度建设和对齐研究能跟上技术进步的脚步。”

不过，Anthropic也承认，如果只有一家公司停下来，竞争对手反而会加速前进。因此，他们强调需要美国、中国等全球主要AI公司达成共识，并建立一套所有参与方都能验证的规则。

2. 1000名人类工程师”教”AI写代码，时薪280美元

就在报告发布第二天（6月6日），另一条消息浮出水面：据Business Insider报道，Anthropic正在通过一个由约1000名人类软件工程师参与的项目，来提升Claude Code的性能。

这个项目在数据标注公司Snorkel AI内部代号为”Marlin”（马林鱼），核心目标是通过微调让Claude Code的回答更接近开发人员的真实工作环境。这些人类工程师的时薪高达280美元，他们用真实世界的代码和场景来”训练”Claude Code，让AI更懂人类开发者真正需要什么。

这其实揭示了一个有趣的矛盾：一方面，Anthropic警告AI正在失控；另一方面，他们正在投入大量资源（和钱）让AI更深度地融入软件开发流程。Claude Code已经成为Anthropic最重要的产品之一，它可以直接运行在终端中，拥有文件系统访问权、命令执行权和网络访问权，能够自主完成从需求拆解、代码编写到部署上线的全流程开发任务。

3. 最强”AI抓虫”模型Mythos扩展开放

6月3日，Anthropic还宣布扩展Project Glasswing安全计划，向全球15个国家和地区、约200家组织开放Claude Mythos模型。这款被称为”AI抓虫”的模型在漏洞发现方面能力极强，但也正因如此，Anthropic对其使用设置了严格限制——它是一台”漏洞发现机器”，而非普通的聊天机器人。

总结

Anthropic最近的一系列动作呈现出一种”自我矛盾”的姿态：既在加速AI能力的进化（Mythos、Claude Code），又在警告这种进化可能带来的失控风险。这种矛盾其实恰恰反映了当前AI行业的核心困境——没人想停下来，但大家都隐约感到应该有个”刹车”。

值得注意的是，Anthropic是目前全球最值钱的AI创业公司，其Claude产品在全球拥有大量用户。当这样一家公司主动站出来呼吁”暂停”，市场的反应值得持续关注。同时，1000名人类工程师训练AI的新闻也说明，至少在当下，AI的进化仍然离不开人类的”兜底”。

你认为AI真的会失控吗？欢迎在评论区留下你的看法。