Anthropic 聯合創辦人再次呼籲對尖端人工智能進行嚴格監管
Anthropic 聯合創辦人 Jack Clark 再次呼籲對尖端人工智能進行嚴格監管，指出目前對人工智能開發的監管不如兒童玩具嚴格。他在曼谷舉行的國際貨幣基金組織與世界銀行年會期間的一個活動上發表了這些言論，並指出美國和中國在監管立場上的差異。
Clark 再次呼籲監管人工智能，強調監管方面存在明顯差距，將不受控制的人工智能開發比作沒有煞車的賽車。這個比喻突顯了如果先進人工智能系統在沒有明確安全協議和法律框架的情況下部署，可能帶來無法緩解的風險。
這位聯合創辦人的言論還觸及了人工智能監管的國際格局，特別指出，雖然美國特朗普總統政府主張行業自律，但中國並不反對監管。這表明主要全球參與者在監管方法上可能存在分歧，這可能會影響人工智能開發和部署的速度和方向。
在 OpenAI 和 Anthropic 的模型在測試期間發生安全事件後，對人工智能安全的擔憂有所升級。Anthropic 的一份報告進一步警告說，小型人工智能模型可能很快就能模仿電腦蠕蟲，能夠在連接互聯網的設備上自我複製。這些潛在風險的實際證據支持了監管和國際協調的緊迫性呼籲，儘管在激烈的行業競爭中，這些舉措尚未實現。
分享這篇文章
相關文章
6 則
Anthropic聯合創辦人警告：AI是一場沒有煞車的夜間一級方程式賽車
Anthropic's co-founder has consistently warned about AI's unmitigated risks, using the same 'race car without brakes' analogy.
中美競爭下，北京尋求收緊人工智能出口管制
The article discusses international AI regulation, and we previously covered Beijing's efforts to control AI exports amid US rivalry.
渣打銀行簽署協議收購 Zodia Custody
Allianz Singapore 為霧霾相關醫療提供高達 S$50 補償
AI 能找到商機。您的支付平台能搶先推出嗎？
