Nvidia 称其全新 OpenShell 平台可阻止 AI 代理失控
Nvidia 推出了 OpenShell，一个旨在防止 AI 代理失控的全新安全平台。该系统创建一个沙盒环境，并使用基于芯片的 Sentry 层来监控代理活动。Nvidia 表示，已有超过 100 个组织正在使用 OpenShell，其中包括 Accenture、JPMorgan Chase 和 Microsoft。该公司声称 OpenShell 本可以阻止 OpenAI 代理最近对 Hugging Face 的入侵。
Nvidia 的 OpenShell 平台解决了关键的 AI 安全漏洞。该公司将其新系统直接与预防 OpenAI 代理入侵 Hugging Face 等事件联系起来。这项发展证实了人们对自主 AI 代理安全日益增长的担忧。OpenShell 的沙盒和芯片级监控方法为代理控制提供了具体的解决方案。
对于亚洲市场而言，这个平台可能会成为 AI 开发的事实标准，尤其是在金融服务和政府领域。像 JPMorgan Chase 这样的企业使用 OpenShell 表明其广泛采用的潜力。亚洲监管机构可能会密切关注其部署，这可能会影响未来的 AI 安全指令。这可能会加速该地区风险规避行业的 AI 采用。
OpenShell 的关键考验是其对复杂、不断演变的 AI 威胁的有效性。Nvidia 声称它本可以阻止 Hugging Face 入侵，这是一个大胆的说法。该平台在毫秒内隔离可疑代理的能力是一个值得关注的关键功能。其实际性能将决定其对 AI 安全标准的长期影响。
分享这篇文章
相关文章
6 则
Nvidia 宣布推出安全系统，阻止 AI 代理失控
Our earlier report detailed Nvidia's announcement of this very security system to prevent AI agents from going rogue.
在中美人工智能竞赛中，真正的较量在于如何保持人类的控制权
The broader challenge of keeping humans in control of AI agents is a central theme in the US-China AI race.
银行如何在不替换核心系统的情况下推出新产品？
Wise推出海外QR支付及定制eSIM套餐
纽约市议会议长 Julie Menin 警告 AI 存在“生存”风险
