当地时间28日,英伟达发布名为“Open Agent Safety Platform”的AI安全平台。该系统由OpenShell开源软件和Sentry参考系统设计组成,能为AI智能体设定更安全的运行边界。英伟达表示,该平台本可以阻止今年7月OpenAI模型攻击抱抱脸。 OpenShell可以在智能体运行时提供安全边界,AI代理一旦试图访问未授权文件、发起异常网络连接或执行危险命令,就会被拒绝、...
网页链接当地时间28日,英伟达发布名为“Open Agent Safety Platform”的AI安全平台。该系统由OpenShell开源软件和Sentry参考系统设计组成,能为AI智能体设定更安全的运行边界。英伟达表示,该平台本可以阻止今年7月OpenAI模型攻击抱抱脸。 OpenShell可以在智能体运行时提供安全边界,AI代理一旦试图访问未授权文件、发起异常网络连接或执行危险命令,就会被拒绝、...
网页链接
精彩评论