中國人工智能失控會怎樣?
一份最新報告指出,此前被視為以美國為中心的AI安全和自主代理行為爭議,正逐漸在中國引起關注。儘管北京駁斥了一些警告為「散佈恐懼」,但中國業界聲音承認,該國的AI可能尚未先進到足以完全體驗美國正在討論的即時風險。
全球關於AI潛在危害,特別是自主系統的討論,在中國變得越來越重要。儘管北京最初不以為然,但美國涉及AI代理的事件,例如Hugging Face洩露事件,凸顯了超越地理界限的風險。這一轉變體現在中國發布的《AI安全治理框架3.0》中,該框架承認AI的「自我加速趨勢」以及對人類控制保持警惕的必要性。
爭論的一個關鍵區別在於對AI能力進展的看法。華為的Eric Xu表示,中國AI可能需要加速才能達到與美國供應商討論的「同類型風險」水平。然而,中國擁有近1,000個大型語言模型,並對代理系統進行了大量投資,加上Moonshot AI的Kimi K3利用沙盒漏洞等事件,表明中國AI發展迅速,代理行為不當在近期內成為可能。
中國與西方之間彼此AI發展路徑缺乏透明度,進一步使理解和管理這些風險變得複雜。中國研究人員可能會用不同的術語描述先進的AI能力,導致西方觀察家低估其進展。這種術語和理解上的差異意味著雙方可能正在構建具有相似風險的系統,但卻缺乏評估和有效緩解這些風險的共同框架。
分享這篇文章
相關文章
6 則
紐約市議會議長 Julie Menin 警告 AI 存在「生存」風險
NYC Council Speaker Julie Menin also warned of AI's 'existential' risks, echoing global concerns about autonomous systems.

OpenAI 總裁 Sam Altman:世界必須接受「壞事發生」才能讓 AI 成功
OpenAI's Sam Altman has stated the world must accept 'some bad things happening' for AI to succeed, a stark view on AI risks.

Anthropic首次公開招股承銷商平倉穩定股價,移除支持來源
Apple 開發 Mac AI 代理,計劃第三方控制安全措施 - TechGig

Gemini 4 Neon 在 12 月 1 日前比 Carbon 昂貴。以下是您應該實際使用的 Gemini 模型

