纳德拉改口：不再相信 AI 越强大就越安全

一年前如果有人问 AI 最大的风险是什么，多数人会说要等它变得足够强。微软 CEO 萨提亚·纳德拉也是这么想的：模型越大、能力越强，行为就越容易被调教得符合人类价值观，对齐问题会随着规模自然消解。现在他改口了。

一分钟速览

• 纳德拉在《20VC》播客中表示，不再相信能力提升会自动带来对齐。
• 他称对齐”可能是一个更棘手、性质也不同的问题”。
• 此前他公开主张把 AI 模型视为内部安全威胁，按”已被入侵”来设计防护。
• 他提出的路径是确定性系统设计、人工管控、操作规程与行业标准。
• 奥尔特曼、阿莫代伊此前均发过类似警告，今年 7 月逾千名从业者联署提示能力可能超出人类理解速度。

一句话的转向，背后是一年的观察

主持人问他过去一年有什么想法变了，纳德拉给出的答案很干脆：他原以为随着模型规模扩大，确保 AI 行为符合人类目标的”对齐”会迎刃而解；模型能力确实按预期提升了，但对齐并没有跟着解决。”我过去总以为，对齐问题自然就会解决。我不再这么认为了。”

这句话的分量在于说话的人。纳德拉不是安全研究员，他是一家把 Copilot 铺进数亿台设备、把模型塞进企业工作流的公司的 CEO。他的判断会直接影响产品怎么设计、权限怎么给、事故怎么兜底。

他此前在社交平台上的表态更具体：企业应当把 AI 模型当成内部安全威胁来对待，做防护时要假定模型已经被入侵。配套的方案是可靠且确定性的系统设计、人工管控、完善的操作规程，以及在现有标准不足的领域推动行业标准。

为什么”更大就更安全”这个假设会失效

这个假设成立的前提是：能力提升会同步带来更好的指令遵循、更准确的自我评估、更稳定的价值判断。实际情况要复杂得多。能力提升的同时，模型能做的事变多了，能触达的工具变多了，能被诱导的路径也变多了。一个只会聊天的模型和一个能读邮件、能改数据库、能调支付接口的模型，即使”对齐水平”相同，风险量级也完全不同。

更麻烦的是评估本身。基准测试能测出模型在已知攻击下的表现，测不出它在未曾设想的场景里会怎么组合工具。企业部署时面对的往往不是恶意攻击，而是一连串看起来都合理的步骤最终拼成了一个不该发生的结果。

这也解释了纳德拉为什么把重点放在”确定性系统设计”上。当模型的行为无法被完全预测，能依靠的就只剩外围：权限最小化、关键动作必须人工确认、全链路可审计、出错能回滚。这些不是 AI 时代的新发明，是过去几十年做关键基础设施时攒下的老办法。

对企业来说，这意味着什么

最直接的变化是预算结构。过去企业买 AI，钱主要花在模型调用和场景开发上；如果按”假定已被入侵”的思路来建，安全、审计、权限管理、应急响应的投入会显著上升，而且这些投入不会带来任何演示效果。

第二个变化是责任划分。当 Agent 能替员工执行操作，出事之后要回答”是谁批准的、依据什么、能不能追溯”。没有这套记录，AI 项目在合规审查那一关就过不去。

第三个变化是节奏。能力越强、越接近核心系统，上线就越慢。这对习惯了”两周一个版本”的团队是种折磨，但也是唯一稳妥的路径。

趋势：对齐正在从研究问题变成工程问题

过去谈对齐，讨论的是训练方法、奖励模型、可解释性；现在越来越多的讨论落在权限、审计、人机分工上。这不是回避难题，而是承认一个现实：在可预见的时间内，我们拿不到”保证正确”的模型，只能拿到”出错也不会造成不可逆后果”的系统。

纳德拉的转向，某种程度上是整个行业的转向。当最乐观的推动者都开始说”我不再这么认为”，说明靠规模解决一切的窗口期已经过去。接下来的竞争，不只比谁的模型更聪明，还比谁能把这份聪明装进一个不会失控的壳子里。