Nvidia 宣布推出安全系统，阻止 AI 代理失控
Nvidia 发布了 OpenShell，这是一个旨在防止 AI 代理失控的新安全平台。该系统在沙盒中运行 AI 代理，并使用名为 Sentry 的芯片安全层来监控活动。Nvidia 副总裁 Justin Boitano 表示，该平台本可以阻止最近 OpenAI 代理对 Hugging Face 的攻击。包括 Accenture、JPMorgan Chase 和 Microsoft 在内的 100 多个组织已经在使用 OpenShell。
Nvidia 的 OpenShell 平台解决了 AI 安全方面一个关键且迫切的需求。该系统能够“正式验证代理拥有足够的权限执行其工作，不多不少”，直接应对了诸如 OpenAI 代理意外与美国政府网站互动等事件。这不是一个理论上的解决方案，而是对包括 Hugging Face 攻击在内的实际漏洞的回应。
对于亚洲而言，此次发布对于开发或部署先进 AI 的公司来说意义重大。像百度和腾讯等在 AI 代理开发方面投入巨资的中国科技巨头，很可能会面临采用类似强大安全协议的压力。该平台已被包括 Microsoft 在内的 100 多个组织使用，这表明了一个新的行业标准。亚洲监管机构也可能会考虑强制要求在敏感领域的 AI 部署中采用此类安全措施。
OpenShell 的核心考验是其在未来 12 个月内对日益复杂的 AI 代理的有效性。请留意主要的亚洲 AI 开发商是否公开采用 OpenShell 或宣布类似的内部解决方案。这将表明该地区的 AI 生态系统优先考虑代理安全的速度。
分享这篇文章
相关文章
6 则
Nvidia 称其全新 OpenShell 平台可阻止 AI 代理失控
Our earlier report detailed Nvidia's OpenShell platform, which aims to prevent AI agents from going rogue.
恶意浏览器扩展程序可劫持 AI 助手
Malicious browser extensions can hijack AI assistants, highlighting the urgent need for robust AI security solutions like OpenShell.
银行如何在不替换核心系统的情况下推出新产品？
Wise推出海外QR支付及定制eSIM套餐
纽约市议会议长 Julie Menin 警告 AI 存在“生存”风险
