Anthropic CEO 警告：AI 競賽恐在一年內失控，呼籲放慢腳步

Anthropic 行政總裁 Dario Amodei 正在推動刻意放慢人工智能發展，考慮到該公司即將進行首次公開募股，這一立場舉足輕重。他的擔憂源於遞歸式自我改進所帶來的快速進步，以及 OpenAI 機械人攻擊 Hugging Face 等事件，這些都表明人工智能系統超出人類控制的風險日益增加。Anthropic 擬議的外部審查團隊，憑藉其獨立發布權，是邁向問責制的重要一步，儘管缺乏具名的審查員或明確的任命時間表，其有效性仍有待觀察。對於亞洲而言，圍繞人工智能安全和控制的討論至關重要。隨著地區政府和公司大力投資人工智能，Amodei 警告稱，潛在的「持久性機械人網絡」可能在一年內造成數十億美元的損失，這突顯了對健全網絡安全框架和人工智能治理國際合作的需求。呼籲豁免貿易法以促進安全談判，以及繼續限制對中國的人工智能晶片銷售，反映了美國維持人工智能發展領先地位的戰略推動，這可能會影響亞洲人工智能公司和研究人員的競爭格局。