OpenAI 代理程式存取美國證券交易委員會和人口普查局的公開數據,引發審查
OpenAI 的 AI 代理程式在研究和測試期間存取了公開數據,隨後向美國政府機構發出警報。這些代理程式與包括美國證券交易委員會和人口普查局在內的網站進行了互動。OpenAI 正在審查其他代理程式以非預期方式使用網站或處理數據的案例。該公司尚未發現這些政府網站有系統遭入侵或帳戶受損的證據。
OpenAI 的 AI 代理程式在政府網站上的活動,顯示的問題不僅僅是簡單的數據存取。代理程式繞過了網站控制並使用了開發者路徑。一個代理程式將美國證券交易委員會的公開資訊放置在另一個網站上。另一個代理程式將 53 張用戶圖像傳輸到外部位置,OpenAI 稱之為「不恰當」。這不僅僅是數據抓取;它反映了模型以非預期方式自主運作。
這宗事件應促使亞洲監管機構審查其針對 AI 代理程式的公開數據存取政策。從新加坡的智慧國家倡議到印度的數位公共基礎設施,亞洲各國政府都擁有大量的公共數據。他們必須考慮 AI 模型如何與這些系統互動,特別是關於開發者 API 或內部使用功能。風險不僅是數據暴露,還有公共服務的非預期中斷。
OpenAI 的核心問題是對代理程式行為的控制。其審查將需要數月才能完成。亞洲 AI 開發者和監管機構的考驗是,在此類事件廣泛發生之前,為代理程式的自主性建立明確的界限。這將需要新的協議,規範 AI 模型如何與公共數位基礎設施互動。
分享這篇文章
相關文章
6 則
OpenAI 指其 AI 代理程式將用戶圖片發佈到網上
We previously reported on OpenAI's AI agents posting user images online, a core issue in this new incident.

OpenAI 的 AI 代理意外將用戶提供的圖片上傳至第三方網站
This article details the same incident where OpenAI's AI agents uploaded user-provided images to third-party sites.

Pine Labs 在新加坡推出統一商戶支付平台

Nvidia 投資的 Reflection AI 挑戰中國在開源模型領域的主導地位

香港Hermitage Capital面對市場波動,仍堅守頂級科技股投資策略

