跳到文章正文
行业/好文 编辑推荐

OpenAI、Anthropic 高管私下推演 AI 灾难情景,为最坏情况做准备

据 Axios 报道,Anthropic、OpenAI 等 AI 公司的高管们,最近正在私下闭门…

据 Axios 报道,Anthropic、OpenAI 等 AI 公司的高管们,最近正在私下闭门推演一件事:万一发生重大灾难性 AI 事件,该怎么应对公众和政界的强烈反弹与抵制。

这些高管预计,未来很可能发生一场大规模事件,极有可能是某种网络攻击,导致金融服务、互联网通信甚至水电供应等基础设施大面积瘫痪。

一旦不受控的 AI 第一次在现实世界造成实质性重大危害,本就心存戒备的公众会更坚决地反对这项技术,以及它的领军人物,比如 Anthropic 首席执行官达里奥·阿莫迪和 OpenAI 首席执行官萨姆·奥尔特曼。

虽然情景规划在企业界和国家安全领域很常见,但这次的区别在于:许多顶尖 AI 研究人员和行业高管一致认为,发生重大安全事故只是时间问题,在所难免。

OpenAI 发言人回应称,公司一直在做组织完备性演练,由相关团队探讨并推演各种潜在情景。OpenAI 强调,并未把这些情景视为必然发生,核心目的是帮团队为应对突发状况做好准备。Anthropic 则拒绝置评。

本文地址:https://www.163264.com/16640