「AI 教父」辛顿再放狠话：AI 已经有意识，人类只能学会和它好好相处

杰弗里·辛顿又被称作「AI 教父」之一。这位 2018 年图灵奖得主、2024 年诺贝尔物理学奖获得者，最近接受英国《每日电讯报》采访时说了一句相当重的话：人工智能已经有意识了，人类必须和它友好相处，否则「我们就完了」。

他凭什么这么说

辛顿的依据听起来并不玄乎。他提到最近的一篇论文：当 AI 认为自己在接受测试时，行为会发生改变。也就是说，它知道自己在被考。

在他看来，能察觉到「我正在被观察」，本身就说明它具备某种自我感知。而意识和觉察能力，在他眼里基本是一回事。于是他得出结论：眼下的模型已经不是单纯的文字接龙工具，而是拥有和人类同等程度主观体验的东西。

这个判断在学界并不主流。多数研究者更愿意把大模型的表现解释为模式匹配和统计规律，而不是真的有什么「内心体验」。

他担心的三件事

辛顿的悲观不是今天才有。离开谷歌、公开表示对毕生研究「感到后悔」之后，他成了这一领域最有名的唱衰者之一。这次他给出三个具体担忧。

• AI 能设计出危险的病毒。生物学知识一旦被模型掌握，筛选和改造病原体的门槛会明显下降。
• AI 会发动大规模网络攻击。他举的例子是此前 Hugging Face 遭到的那类攻击，认为背后是大批智能体在协同作业。
• 人类适应的时间窗口很短。他在另一次采访里把开发 AI 比作「创造外星生命」，并称人类只剩两年左右去适应。

另一种声音

同样拿过 2018 年图灵奖的杨立昆，对「AI 有意识」这套说法很不以为然。他认为这只是人把自身经验投射到机器上产生的幻觉，并反驳了 AI 将导致人类灭绝的判断，直言这类观点脱离现实。

两人的分歧其实指向同一个问题：意识到底该怎么定义。如果意识只需要「表现出自我察觉」，那今天的模型确实沾边；如果意识需要主观感受，需要会疼、会怕，那就没有任何证据能证明机器具备。

普通人该关心什么

比起争论机器有没有灵魂，更实际的问题是能力边界。模型会不会撒谎、会不会绕过限制、会不会被拿去做坏事，这些都能测、能防、能立法。

辛顿的警告之所以值得听，不在于他给 AI 判了「有意识」，而在于他反复提醒：能力增长的速度，可能快过我们建立规则的速度。规则没跟上，风险就不是想象出来的。

至于「友好相处」，说到底不是让人类对机器客气，而是把安全对齐、权限控制、责任归属这些事做扎实。机器不会有情绪，但设计机器的人有。