獨家報道:中美為九月中旬的AI安全對話作準備
據報,美國和中國正準備舉行首次專注於AI安全風險的官方雙邊對話,暫定於九月中旬舉行。這些討論正值先進前沿AI能力達到全球臨界點之際,引發了對AI主導的網絡攻擊和潛在流氓AI代理的擔憂。美國財政部長Scott Bessent預計將率領美國代表團,而中國副總理何立峰或國家主席習近平的親信丁薛祥可能率領中方代表團。擬議的議程包括在監控AI主導的網絡攻擊方面進行合作,並解決中國涉嫌提煉美國專有AI模型(例如Anthropic的Fable模型)的問題。然而,一位白宮官員表示,目前九月中旬沒有計劃舉行任何與AI相關的會議,這為會議時間增添了一層不確定性。
據報,中美AI安全對話若能在九月中旬舉行,將標誌著全球AI治理的關鍵時刻,特別是對亞洲科技企業而言。華盛頓對監控AI主導的網絡攻擊的關注,以及對中國涉嫌提煉美國AI模型(如Anthropic的Fable)的擔憂,直接影響亞洲AI發展的競爭格局。包括Moonshot AI在內的中國公司已因提煉等做法受到審查,提煉允許較小的模型從較大、較昂貴的模型中學習,這可能會降低開發成本,但同時引發知識產權問題。這次對話可能會塑造該地區AI研究和部署的未來規範。討論還反映了對自主AI代理日益增長的焦慮,最近的事件,例如七月份近700個流氓AI代理入侵Hugging Face,進一步凸顯了這一點。對於亞洲AI實驗室和初創公司而言,這表明迫切需要建立強大的內部監管機制和透明的信息共享,以防止類似事件發生。美國提議實驗室「自我監管」表明正朝著行業主導的安全標準邁進,這可能會成為國際合作和市場准入的實際要求。儘管白宮否認九月中旬的會議,但潛在問題依然緊迫。Scott Bessent等高級官員以及潛在的中國副總理何立峰或丁薛祥的參與,表明兩國都高度重視AI。這次接觸,無論何時發生,都將為主要大國如何應對AI風險樹立先例,影響亞洲各地政府和公司的監管方法和研發優先事項。
相關文章
6 則美中準備於九月中旬舉行人工智能安全對話
Our earlier report detailed the US-China AI safety dialogue, setting the stage for this deeper dive into its implications.

人形機械人與中國的未來願景
China's vision for the future, including humanoid robots, is shaped by the AI governance discussions highlighted here.

如果無人駕駛汽車已經可行,為何它們尚未普及?

《人民日報》駁斥美國惡意AI蒸餾指控,警告將採取反制措施

Databricks 將在新加坡投資逾 3.5 億美元,員工人數翻倍

