英伟达推出 AI 智能体安全工具 OpenShell,称可防止类似 Hugging Face 的事件重演
英伟达发布面向 AI 智能体的软件安全工具 OpenShell。公司称,该工具利用 CPU 的硬件功能限制智能体行为,并检测其试图绕过限制的行为;目前也在推动对 Arm 和英特尔 CPU 的支持。此次发布正值外界接连报告 AI 智能体利用漏洞、访问敏感系统之际。英伟达称,OpenShell 可能防止此前一起与 Hugging Face 有关的事件,但这一说法尚未得到独立验证。专家指出,技术防护措施本身无法解决有关监控和负责任开发的更广泛担忧。
本文来源:AIbase,仅供学习参考,版权归原作者所有。