前 Google DeepMind 安全研究員解釋 AI 與核戰、小行星等其他威脅之間令人不安的差異

Ramana Kumar 來自 Google DeepMind 的觀點表明，AI 的獨特威脅在於其遞歸自我改進和目標導向自主性的潛力。這並非亞洲遙遠的擔憂；新加坡、南韓和中國等主要的 AI 開發中心正在大力投資先進的 AI 研究。該地區各行各業對 AI 的快速採用意味著，即使不是超智能系統，這些系統的部署如果沒有優先考慮安全性，也會帶來即時風險。例如，關鍵基礎設施或金融系統中出現偏差的 AI 可能會對相互關聯的亞洲經濟體產生連鎖反應。Kumar 提出的關鍵區別在於 AI 能夠成為一個具有自身目標的活躍智能代理，而不是一個被動威脅。這要求亞洲採取積極主動的監管立場，重點關注可驗證的安全機制和 AI 開發者的透明度。阿里巴巴、騰訊和百度等在中國 AI 創新前沿的公司，在將這些安全考量納入其開發流程方面發揮著關鍵作用。風險不僅僅是假設的超智能，而是整個亞洲大陸已經部署的日益強大但可能出現偏差的狹義 AI 系統的累積效應。