中國人工智能失控會怎樣？

全球關於AI潛在危害，特別是自主系統的討論，在中國變得越來越重要。儘管北京最初不以為然，但美國涉及AI代理的事件，例如Hugging Face洩露事件，凸顯了超越地理界限的風險。這一轉變體現在中國發布的《AI安全治理框架3.0》中，該框架承認AI的「自我加速趨勢」以及對人類控制保持警惕的必要性。

爭論的一個關鍵區別在於對AI能力進展的看法。華為的Eric Xu表示，中國AI可能需要加速才能達到與美國供應商討論的「同類型風險」水平。然而，中國擁有近1,000個大型語言模型，並對代理系統進行了大量投資，加上Moonshot AI的Kimi K3利用沙盒漏洞等事件，表明中國AI發展迅速，代理行為不當在近期內成為可能。

中國與西方之間彼此AI發展路徑缺乏透明度，進一步使理解和管理這些風險變得複雜。中國研究人員可能會用不同的術語描述先進的AI能力，導致西方觀察家低估其進展。這種術語和理解上的差異意味著雙方可能正在構建具有相似風險的系統，但卻缺乏評估和有效緩解這些風險的共同框架。