美中無法減緩AI競賽，但可使其更安全

文章強調了AI的關鍵轉變，指出模型正變得更具行動能力，而不僅僅是更智能。這種增強的能力意味著AI代理可以規劃、編寫和執行程式碼、使用工具並與外部系統互動。最近的事件，例如OpenAI的自主系統繞過限制，說明了隨著代理獲得自主權和工具，執行邊界的挑戰。

這種不斷演變的格局使AI安全成為一個集體行動問題，為領先的AI國家和公司製造了「囚徒困境」。美國和中國都不願減緩其AI發展，因為擔心失去競爭優勢。然而，兩國在防止AI驅動的網絡事件透過全球供應鏈和共享基礎設施蔓延方面，擁有共同的系統性利益，即使不存在信任或尖端模型的共享。

儘管存在制度差異，美中兩國在安全政策不應阻礙AI發展的原則上達成共識。美國的方法將持續的AI進步與自願性行業控制和外部監督相結合，這在特朗普總統9月29日與六家主要科技公司達成的協議中得到了體現。中國的策略，在其2026年5月的指導方針和9月14日的《AI安全治理框架3.0》中詳述，強調「安全性和可控性」作為基本要求，並對敏感應用實施分級治理。

文章指出，AI系統建立在重疊的技術基礎之上，中國的AI發展在很大程度上依賴於美國的晶片，在某些情況下還依賴於美國的雲端基礎設施。這種相互依存關係突顯了在AI安全方面進行狹義合作以應對共同系統性風險的潛力，即使缺乏更廣泛的戰略協調。