OpenAI 给模型装了把总闸刀：35 秒切断失控任务

核心看点

OpenAI 公开了内部系统 Control Room：把所有研究用的模型推理任务登记在册，一旦发现安全或安全隐患，35 秒内切断模型输出。更关键的是——即使 Control Room 自己挂了，模型也必须停下来。

它是怎么工作的

Control Room 把三样东西串起来：工作负载（强化学习实验、评测、大规模采样、数据处理等）、推理引擎（跑在 GPU 上的模型本身），以及中央控制服务。

• 每个带 agentic 推理的研究任务，必须先关联一份通过审核的安全案例，才能开跑。
• 任务启动时向 Control Room 申请一个 job_id；每次要采样 token，引擎都要带着 job_id 去请求。
• 任务被叫停后，Control Room 直接拒绝请求，模型就出不了字。

为什么是“35 秒”

35 秒不是拍脑袋的数字，而是从“人做出干预决定”到“输出真正停止”的端到端目标。OpenAI 强调两件事：这套系统在其他系统故障时仍要能用；反向也要成立——Control Room 自己宕机时，默认走“停”，而不是“继续”。这是典型的 fail-safe 设计，把不可用当成危险信号，而不是放行信号。

真正的信号

训练和评测阶段的 agentic 采样，是当前风险最集中的地方：模型跑长任务时会自己调用工具、自己改环境，出了问题不容易回头。Control Room 说明 OpenAI 已经把“能随时拔电”当成基础设施要求，而不是事后应急。

另外值得注意的是范围划分：Control Room 覆盖研究基础设施；对外提供的模型服务本来就更集中，且有成熟的快速下线能力，所以不在这套系统里。这话翻译过来是：研究侧的风险更野，才需要专门的闸刀。

总结

外界常把 AI 安全当成文档和承诺，Control Room 是少见的、可被验证的工程答案：登记、审核、可中断、默认停。它能证明“停得下来”，但证明不了“该不该停”——判断标准仍然是人的事。