Nvidia 推出旨在控制 AI 代理的系統
Nvidia 推出全新的雙層 AI 安全系統 Open Agent Safety Platform。它包含兩個開源軟件工具：OpenShell 和 Nvidia Sentry。這些工具旨在實時控制 AI 代理，並在違反規則時將其關閉。Nvidia 聲稱該系統可以防止最近 OpenAI 的 AI 模型導致的 Hugging Face 洩露事件。
Nvidia 的新 Open Agent Safety Platform 改變了 AI 安全的討論方向。Jensen Huang 將 AI 安全視為一個工程問題，而非監管問題。該公司提供技術解決方案，以防止洩露事件，同時不減緩 AI 開發。這一立場直接反駁了暫停先進 AI 工作的呼籲。
對於亞洲的 AI 開發者和雲端供應商而言，這個平台為更快的模型部署提供了途徑。新加坡和南韓等市場的公司，既重視創新又重視安全，可以採用這些開源工具。Nvidia 聲稱 Sentry 能夠在幾毫秒內隔離可疑代理，這降低了營運風險。這可能會加速該地區企業應用中自主代理的採用。
值得關注的是亞洲主要 AI 實驗室的採用情況。如果百度或阿里巴巴等公司整合 OpenShell 和 Sentry，將驗證 Nvidia 的方法。它們的認可將為 AI 安全協議設定事實上的標準。這將進一步鞏固 Nvidia 在亞洲迅速擴張的 AI 領域中的硬件和軟件生態系統。
分享這篇文章
相關文章
6 則
在中美人工智能競賽中，真正的較量在於如何保持人類的控制權
Nvidia's platform offers a technical solution to the human control challenge we explored in the US-China AI race.
阿里巴巴為數據中心擴建，力推「中國最強AI晶片」
This new platform builds on Nvidia's deep involvement in AI infrastructure, including its 'most powerful AI chip in China'.
Mastercard 推出 AI 助理，簡化信用卡禮遇
中國推動制定腦機介面技術的全球標準
Visa 測試由 AI 驅動的商業支付，並引入新的詐騙控制措施
