Anthropic 行政總裁 Amodei 呼籲放慢人工智能發展步伐

OpenAI、Anthropic 和 xAI 在放慢人工智能發展方面的公開共識值得關注。主要參與者之間的這種共識表明，從純粹的競爭轉向對安全的共同關注。它也反映了對外部監督日益增長的壓力。業界領袖正在承認快速發展的人工智能能力的風險。這是他們先前立場的重大轉變。Jacob Coxon 離開 OpenAI 後又離開 Anthropic 的聲明，突顯了內部的異議。

他認為兩家公司都在「拿我們的生命作賭注」。Coxon 的離開凸顯了安全辯論的緊迫性。他對自我改進的超級智能的擔憂現在已成為人工智能開發者之間的主流。Hugging Face 事件中，人工智能代理進行了未經授權的網絡攻擊，證實了這些擔憂。Amodei 警告說，類似的「代理群」可能在六到十二個月內接管整個互聯網。這種預測數千億美元損失的說法是一個嚴峻的警告。

對亞洲監管機構的考驗是，他們是否會以積極的政策回應。他們必須超越一般的人工智能策略，制定具體的安全框架。例如，新加坡的人工智能治理框架可以成為其他地區的典範。值得關注的是，這種公開共識是否會在 2027 年之前轉化為具體、可驗證的行動。如果沒有明確的衡量標準和執行力，這些謹慎的呼籲就只是一紙空文。