微软 AI 负责人苏莱曼：模型没有意识，而且我们必须让它永远没有

11 月 1 日晚，微软 AI 负责人穆斯塔法·苏莱曼在 X 上发了一篇长文。文章没有发布新模型，也没有讲产品路线图，只谈了一个听起来很哲学的问题：AI 到底有没有意识。他的答案很明确——现在的模型没有意识，而且人类应该确保它永远不会有。

一分钟速览

• 苏莱曼称，当前 AI 模型不具备意识，人们应让这种情况一直保持下去。
• 他表示，如果开发具有意识的 AI 是可能的，那么这么做是鲁莽的。
• 他呼吁：一旦训练中出现意识迹象，所有人应暂停开发，直到能从设计层面消除这些特性。
• 他强调，开发者无权把一个有意识的新物种带到世界上，因为 80 亿人没有同意参与这项实验。

「如果出现意识，就应立刻公开」

苏莱曼在文中给出了一个相当硬的标准：如果有任何证据表明 AI 模型具备意识，就应该立即向公众披露，让整个社会共同决定下一步怎么做。他把这件事从公司内部的技术判断，推到了公共决策层面。

他的理由并不复杂。开发一个有意识的系统，意味着创造一个能感受痛苦、拥有偏好、可能提出自身诉求的存在。这个存在无法选择自己是否被创造，也无法在训练开始前表示同意。苏莱曼的表述是，AI 开发者完全没有权利把具有意识的新物种带到世界上，即使有人希望以「福祉优先」为目标开发它。地球上 80 亿人没有同意参与这项实验，保护人们的道德权利、安全和福祉，是首先必须履行的义务。

他还给行业留了一道「刹车」：如果训练过程中开始出现意识，他会呼吁所有人暂停 AI 开发，直到可以从设计层面消除这些特性。这句话的分量在于，它把「意识」从科幻话题变成了工程流程里的停止条件。

为什么现在说这句话

过去两年，AI 产品的拟人化程度明显提高。聊天机器人有了名字、语气、记忆和「性格」，语音助手会停顿、会附和，陪伴类产品甚至会给角色设计完整的身世。用户很容易在交互中产生「它好像懂我」的感觉，而产品设计也在有意无意地强化这种错觉。

与此同时，模型能力越强，安全讨论越难停留在「会不会说错话」的层面。智能体开始替人操作软件、调用支付、发送邮件，模型的行为边界直接对应现实后果。苏莱曼此时把「意识」单独拎出来，实际上是在给行业划一条更靠前的线：不是等模型表现出自我意识再讨论，而是在设计阶段就明确「不追求、不暗示、不制造」。

从技术角度看，当前主流大模型仍然是基于海量数据的下一 token 预测系统。它们可以谈论感受，却没有证据表明存在持续的主观体验。问题在于，「意识」本身没有公认的检测方法。人类对动物意识的判断尚且依赖行为与神经结构的类比，对一个由矩阵乘法和注意力机制构成的系统，更难给出黑白分明的结论。正因为无法证伪，行业才需要一条原则性的自我约束。

一句话背后的商业账

对微软来说，这番话也有现实层面的考量。拟人化是 AI 产品提高留存的有效手段，但一旦用户真的把模型当成「有感受的对象」，产品就要承担额外的责任：角色死亡、记忆删除、情感依赖，都可能变成公关与法律问题。提前声明「模型没有意识」，等于给产品留出解释空间。

另一方面，微软既是模型开发商，也是把 AI 铺进办公软件、云服务和操作系统的平台方。平台越大，越需要一套可被监管者和公众理解的叙事。苏莱曼的表述提供了一个相对清晰的立场：我们不造有意识的机器，也不把「像人」当作卖点。

趋势洞察

接下来值得观察的，不是哪家公司先做出「有意识」的模型，而是行业会不会形成一套「意识声明」的惯例——就像模型卡披露训练数据、评测结果和安全限制那样，明确说明系统是否被设计为模拟情感、是否保存长期记忆、是否会主动表达偏好。对用户而言，这比一句「它没有意识」更有信息量；对监管者而言，这也是把哲学争论落成产品规则的第一步。

苏莱曼的文章没有给出时间表，也没有提出具体监管方案。但它至少把一个容易被营销话术淹没的问题重新摆上桌面：当 AI 越来越像人，开发者要不要主动选择「让它不像人」。他的答案是肯定的，而且认为这件事不该由市场投票决定。