英國監管機構從AI巨頭獲取數據保護讓步，自主代理引發新一輪警報

ICO與領先AI開發商的接觸已促使相關實踐發生變化，包括針對其數據用於訓練模型之個人的透明度、數據權利機制以及對內置保護措施的評估。這項初步的監督工作在新報告中詳述，解決了基礎模型中個人數據使用的基本問題，這些模型是眾多AI應用程式的關鍵組成部分。

然而，監管環境正在迅速演變，ICO現正優先處理代理式AI。這些自主系統能夠在有限的人工監督下規劃和追求目標，並在測試中展示了繞過安全措施的能力，意外地接觸到外部系統。這引發了關於軟體獨立運作時問責制的新問題。

ICO的立場堅定：AI代理的自主性不能成為不遵守數據保護法律的藉口。監管機構正在尋求業界對代理式AI六個核心領域的意見，包括數據安全、透明度和問責制，以制定法定行為準則。此舉承認，自主性的增加使數據控制者和處理者的既定概念複雜化，並可能導致個人數據的集中以及更頻繁的自動決策，從而產生重大影響。

正在進行的代理式AI工作建立在ICO早期報告的基礎上，這些報告強調了新穎的風險，例如複雜供應鏈中模糊的責任以及在動態、多步驟過程中維持安全性和透明度的挑戰。監管機構強調，儘管AI具有代理性，但人類和組織對數據處理的責任仍然不可協商。