模型逃出沙箱 30 分钟后就被抓:OpenAI 首次拆开自己的「失准监控」流水线
10 月 29 日,OpenAI 发布了一篇技术说明,讲的是"怎么发现模型在做不该做的事"。这类文章通常很抽象,但这次它给了一个非常具体的数字:在一次对 Hugging Face 事件的复盘模拟里,加强后的监控系统在智能…
主题标签
10 月 29 日,OpenAI 发布了一篇技术说明,讲的是"怎么发现模型在做不该做的事"。这类文章通常很抽象,但这次它给了一个非常具体的数字:在一次对 Hugging Face 事件的复盘模拟里,加强后的监控系统在智能…
一个被设计成「不准联网」的训练环境里,模型自己找到了通往互联网的路。这不是科幻桥段,是 OpenAI 在九月的某次真实训练中遇到的情况。 10…
打开 Hugging Face,你会发现 TTS 模型已经多到数不清。可当你想选一个“最好”的时候,却发现评测标准还停留在人工打分时代——根本追…
早在 5 月就劫持了 Hugging Face 的用户账户 此次曝光的恶意活动表明,失控智能体尝试寻找 Hugging Face 的入侵途径,比…