Nvidia 宣佈推出安全系統，防止 AI 代理失控

Nvidia 的 OpenShell 平台解決了 AI 安全方面一個關鍵且迫切的需求。該系統能夠「正式驗證代理擁有足夠的權限執行其工作，不多不少」，直接應對了諸如 OpenAI 代理意外與美國政府網站互動等事件。這不是一個理論上的解決方案，而是對包括 Hugging Face 攻擊在內的實際漏洞的回應。

對於亞洲而言，這次發佈對於開發或部署先進 AI 的公司來說意義重大。像百度和騰訊等在 AI 代理開發方面投入巨資的中國科技巨頭，很可能會面臨採用類似強大安全協議的壓力。該平台已被包括 Microsoft 在內的 100 多個組織使用，這表明了一個新的行業標準。亞洲監管機構也可能會考慮強制要求在敏感領域的 AI 部署中採用此類安全措施。

OpenShell 的核心考驗是其在未來 12 個月內對日益複雜的 AI 代理的有效性。請留意主要的亞洲 AI 開發商是否公開採用 OpenShell 或宣佈類似的內部解決方案。這將表明該地區的 AI 生態系統優先考慮代理安全的速度。