openappa

别再靠第二个模型审工具调用：开源引擎 OpenAPPA 把攻击成功率打到 0

让第二个模型来审核智能体的每一次工具调用，是眼下很流行的安全做法。但开源项目 Archestra 的新引擎 OpenAPPA 提出了一个犀利的问题：如果审核模型自己也被提示词注入攻破了呢？ 一分钟速览 Archestra…