英伟达开源 OpenShell:给智能体一群「带监控的沙箱」,凭据只在出门那一刻注入
让智能体真正干活,绕不开一个矛盾:它要读文件、装依赖、调 API、用凭据,才可能完成任务;可一旦它拥有这些能力,也就拥有了破坏力。多数团队的处理方式是写一份系统提示词,叮嘱模型「不要删东西、不要外传数据」——这不叫安全边…
主题标签
让智能体真正干活,绕不开一个矛盾:它要读文件、装依赖、调 API、用凭据,才可能完成任务;可一旦它拥有这些能力,也就拥有了破坏力。多数团队的处理方式是写一份系统提示词,叮嘱模型「不要删东西、不要外传数据」——这不叫安全边…
让 AI 智能体自主干活,最让人睡不着觉的问题是:它要是乱来怎么办?跑命令、读文件、连网络,每一个动作都可能造成真实后果。英伟达开源的 Open…
当 AI 智能体越来越强大,如何确保它们安全运行成为一个紧迫问题。NVIDIA 近日开源了 OpenShell 项目——一个专为自主 AI 智能…
英伟达周一正式推出开放式 AI 智能体安全平台(NVIDIA Open Agent Safety Platform),把智能体治理从提示词和模型…