行业/好文 编辑推荐
英伟达发布 AI 智能体安全平台,可毫秒级隔离异常智能体
英伟达周一正式推出开放式 AI 智能体安全平台(NVIDIA Open Agent Safety…
文章目录
英伟达周一正式推出开放式 AI 智能体安全平台(NVIDIA Open Agent Safety Platform),把智能体治理从提示词和模型护栏,下沉到软件运行时与独立芯片层。公司称,一旦智能体试图越界,系统可在毫秒级将其隔离并停止运行。

第一层是开源运行时 OpenShell。它在 CPU 上为每个智能体划定内核级沙盒,限制文件、网络、进程、工具和凭证访问,并在任务执行前与执行中持续核验策略。策略位于智能体无法触及的基础设施层,不依赖模型“听话”。OpenShell 针对英伟达面向智能体场景的 Vera CPU 做了低开销优化,也可扩展到 Arm、英特尔等第三方平台。
第二层是新增的看门狗 NVIDIA Sentry。它运行在 BlueField-4 DPU 上,处于主机与模型路径之外的独立信任域:持续观察智能体行为、工具调用和数据访问,并在硅片层强制执行策略。若智能体突破软件边界,Sentry 可在毫秒内隔离并停机。英伟达强调,这种带外监控对智能体和攻击者都不可见,即便主机被攻破,安全控制仍可独立生效。
本文地址:https://www.163264.com/15631