【 #英伟达 推出旨在防止 #AI 智能体失控的系统】

英伟达推出双层 #人工智能 安全系统，称若早前部署，可阻止 #OpenAI 模型此前对Hugging Face的高调入侵。该系统包含两款开源安全工具——OpenShell和Nvidia Sentry，可运行于英伟达硬件上，实时控制AI代理的访问权限，并在违规时立即将其关闭。英伟达认为，这一安全层将帮助行业更安全地测试最先进的AI系统，并能在毫秒级内隔离可疑代理。