不與中國達成人工智能安全協議的藝術
中美兩國在停滯兩年後，將恢復官方人工智能安全會談。對話可能於本月舉行，或與美國總統唐納德·特朗普和中國國家主席習近平的峰會同時進行。北京擔心這些會談可能成為遏制其技術崛起的另一個工具。中國官方媒體附屬機構「玉淵譚天」已就此結果發出警告，反映了對國家安全概念被過度延伸的普遍擔憂。
中美人工智能安全會談的恢復並非旨在建立信任或達成重大協議。其目標是讓雙方相互了解對方對人工智能的擔憂和管理策略。北京主要擔心安全討論會成為實施新限制的藉口，類似於過去以國家安全為由實施黑名單和出口管制。這種動態使得真正的合作難以實現，儘管存在共同的生存風險。
對於亞洲而言，關鍵在於這些會談如何影響人工智能開發商之間的內部競爭動態。中國在人工智能安全方面的方法正在演變，從去年6月到今年4月，每月前沿人工智能安全論文數量增加了60%。這種從政治控制轉向代理應用風險的轉變，反映了對安全的認真參與。挑戰在於確保這種關注不會被誤解為接受美國強加的規則。
值得關注的是所實現的透明度水平。Hugging Face行政總裁Clement Delangue在最近一次OpenAI代理相關網絡攻擊後呼籲「人工智能透明度提高100倍」。如果雙方對彼此的人工智能能力和安全措施缺乏更大的了解，美國和中國都將假設最壞的情況。這可能會加速一場魯莽的、追求更強大系統的競賽，使亞洲的人工智能發展環境面臨更大風險。
分享這篇文章
相關文章
6 則
Anthropic 阻止俄羅斯開發自主無人機蜂群
Anthropic, a key player in AI safety, recently disrupted a Russian attempt to develop autonomous drone swarms.
Anthropic 行政總裁呼籲美國人工智能公司放慢前沿模型開發
Anthropic's CEO has called on US AI firms to slow frontier model development, echoing safety concerns.
我建立了一個小型引擎，為本地大型語言模型提供真實工具
Mergetober：利用 cognee 讓代理程式與 Sanity CMS 保持同步
OpenAI 預告 GPT-6.1 Astra，同時神秘的 GPT-6.2 Betelgeuse 模型持續引發熱議，另有證據顯示 Kimi K3.1 Pro 和 GLM-5.3 為蒸餾模型
