英伟达发布 AI 智能体安全平台,可实时隔离异常智能体
英伟达发布开放式 NVIDIA Open Agent Safety Platform,用于对 AI 智能体、智能体硬件和机器人系统进行全栈治理与控制。平台包含开源安全软件 OpenShell,可为运行在 CPU 上的智能体设定边界,支持开源和闭源模型,并兼容 Arm、英特尔等第三方平台。监控系统 NVIDIA Sentry 会持续观察智能体行为;如果智能体试图绕过软件控制,系统可在数毫秒内将其隔离或停止。Sentry 运行在 BlueField-4 DPU 上,能够在芯片层面独立执行安全策略,并结合威胁检测、硬件级智能体治理和数据访问保护。英伟达表示,Anthropic、SpaceX 和 Scale AI 已开始使用 OpenShell。
本文来源:IT之家,仅供学习参考,版权归原作者所有。