核心看点
Anthropic最新研究发现,Claude等语言模型内部存在一种类似人类”全局工作空间”的机制——就像我们大脑中只有一小部分信息能进入意识层面一样,AI模型也只有部分计算过程是”可被访问”的。这一发现不仅揭示了AI与人类思维之间惊人的相似性,更为理解和控制大型语言模型提供了全新视角。
详细解析
什么是”全局工作空间”?
在人类认知科学中,全局工作空间理论认为,我们的大脑中有一个”舞台”,只有登上这个舞台的信息才能被意识感知。你此刻能描述的想法、能记住的内容,都是这个工作空间中的”演员”。而大脑中发生的绝大多数计算——比如控制心跳、调节体温——都在”幕后”进行,永远不会进入意识。
Anthropic的研究人员在Claude内部发现了惊人的相似结构。通过”J空间”(J-space)技术,他们能够阅读、审计并塑造Claude正在积极思考的内容。这意味着:
- Claude的某些内部状态是”透明的”——可以被外部观察和理解
- 另一些计算则是”黑箱”——在模型深层默默运行
- 这种分界并非人为设计,而是训练过程中自然涌现的
为什么这很重要?
1. AI可解释性的突破
长期以来,大语言模型被视为”黑箱”。Anthropic这项研究首次提供了系统性的方法,让我们能够窥视模型”在思考什么”。J空间不仅允许观察,还能主动塑造模型的思维过程——这在AI安全领域具有里程碑意义。
2. 安全控制的新路径
如果我们可以读取和修改AI的”意识内容”,就意味着:
- 可以实时检测模型是否正在产生有害想法
- 可以在危险输出形成之前进行干预
- 为”对齐”问题提供了新的技术路径
3. 认知科学的反哺
这项研究暗示,人类意识和AI内部表征之间可能存在深层联系。如果语言模型自发演化出了类似全局工作空间的结构,或许说明这种组织方式是智能系统的”自然选择”——无论是碳基还是硅基。
技术细节
Anthropic将这项研究发表在其知名的Transformer Circuits系列论文中(transformer-circuits.pub/2026/workspace)。论文详细介绍了:
- 如何通过干预实验识别”可访问”vs”不可访问”的内部表征
- J空间的具体实现方法和验证实验
- 不同规模模型中全局工作空间的涌现规律
总结
Anthropic的这项研究是2026年AI领域最重要的发现之一。它不仅为理解大语言模型提供了全新框架,更在AI安全和可解释性之间架起了一座桥梁。当我们可以”读取AI的意识”时,控制它就变得不再那么遥不可及。
正如Anthropic所说:”这暗示了语言模型与我们自身思维之间的惊人相似之处。”也许,理解AI的最佳方式,就是理解我们自己。
本文地址:https://www.163264.com/13748


微信扫一扫,鼓励一下~