「道德紅線」?世界正處於自主武器革命的風口浪尖
聯合國日內瓦會議將討論致命自主武器系統(LAWS)的規例,正值各界關注人工智能在戰爭中扮演的角色日益擴大。傳統自主武器是預先編程的,而人工智能增強型系統則無需直接人手干預即可識別、選擇和攻擊目標,這加劇了對清晰監管框架的呼籲。
關於自主武器的爭論區分了舊系統(例如殺傷人員地雷)和新型人工智能增強型無人機。根據日內瓦安全政策中心 Jean-Marc Rickli 的說法,人工智能驅動的系統現在「能夠選擇和攻擊未預設的目標,無需人手干預即可適應環境」。這種能力標誌著與早期在預設條件下運作的自主武器的重大轉變。
這種根本性的變化意味著機器可以就目標做出實時決策,這向監管機構提出了關於所需人手控制水平的關鍵問題。聯合國秘書長 Antonio Guterres 和紅十字國際委員會主席 Mirjana Spoljaric 警告不要跨越自主鎖定人類目標的「道德紅線」。美國等國家提及「適當水平的人類判斷」,而法國則允許「部分自主」系統,這突顯了監管方式的多樣性。
然而,包括 Rickli 在內的分析師認為,日內瓦的討論範圍「非常狹窄」。據報導,他們未能解決人工智能在戰場上日益擴大的應用範圍,特別是已經廣泛部署的目標生成和決策支援系統。這種更廣泛的部署引發了關於人手操作員是真正行使判斷力還是僅僅橡皮圖章式地批准機器建議的問題,這表明當前的監管重點與現有技術現實之間存在差距。
法國國防人工智能局海軍少將 Vincent Sebastien,以及 Guterres 和 Spoljaric 警告說,戰場上的自主性並非遙遠的未來。他們表示,武器系統在更大自主性方面的競賽已經如火如荼地進行,據報導,俄羅斯在烏克蘭的近期衝突中以及美國在伊朗的襲擊中部署了一些自主武器。
分享這篇文章
相關文章
6 則
Claude Duet 先向您發送訊息。這改變了誰在掌控。
The core question of who or what is in control when AI systems make decisions is explored in this piece.

Anthropic 的首次公開募股會促成更好的 AI 監管嗎?
As autonomous weapons raise regulatory questions, we previously asked if an AI IPO could lead to better regulation.

金管局總裁警告勿向AI代理提供銀行登入資料

五家銀行出價逾2億新加坡元競投代幣化MAS票據

Alipay+ 連接巴西 Pix 實現跨境二維碼支付

