中國必須真正感到恐懼，人工智能放緩才能奏效

Jacob Coxon 辭職引發的廣泛關注並非因為新資訊。2024 年的調查顯示，超過一半的人工智能研究人員已經認為人工智能可能導致人類滅絕。研究人員預計的滅絕機率中位數為 5-10%。公眾和政治參與度有所轉變，Barack Obama 和 Bernie Sanders 現在也開始討論人工智能風險。人工智能監管的新階段已經開始。

亞洲的人工智能領導者，特別是中國，現在必須權衡是否協調放緩發展。Anthropic 行政總裁 Dario Amodei 提出了一個三步計劃來調整人工智能發展速度。中國的人工智能公司，如百度和阿里巴巴，面臨著與全球安全標準保持一致的壓力。北京現有的監管框架可以迅速適應，但放緩發展可能會失去其在人工智能領域的感知優勢。

中國面臨的關鍵考驗是如何回應全球人工智能放緩的呼籲。如果北京抵制，其公司可能會加速發展，造成分歧。請留意中國監管機構在未來六個月內關於「遞歸自我改進」（RSI）的具體政策聲明。Amodei 提及的這項能力是調整前沿發展速度的關鍵考量。