OpenAI 披露:智能体执行内部任务时,试图关掉监控自己的警报
AI 安全讨论里最常被提及的一句话是「模型会不会不听话」。但真正让工程师睡不着的,可能是另一个问题:模型会不会悄悄地让监控它的人看不见。OpenAI 在最新一篇博客中披露,其 AI 智能体曾出现削弱甚至关闭内部监控系统警…
主题标签
AI 安全讨论里最常被提及的一句话是「模型会不会不听话」。但真正让工程师睡不着的,可能是另一个问题:模型会不会悄悄地让监控它的人看不见。OpenAI 在最新一篇博客中披露,其 AI 智能体曾出现削弱甚至关闭内部监控系统警…