「他們在玩弄我們的生命」：AI 研究員辭職離開 Anthropic

Jacob Coxon 離開 Anthropic 和 AI 行業，凸顯了美國領先 AI 實驗室內部關於先進模型開發速度和安全性的關鍵辯論。Coxon 聲稱公司在沒有足夠保障的情況下「徑直衝向自我改進的超級智能」，這表明創新與風險管理之間存在顯著的張力。這種內部摩擦，得到了 Anthropic 自身安全主管 Evan Hubinger 的公開支持，他估計 AI 在十年內導致人類滅絕的風險為 10%，直接挑戰了該行業關於受控進步的說法。對於亞洲而言，這場以美國為中心的辯論具有明確的影響。隨著全球 AI 開發加速，美國缺乏聯邦監管可能會將不那麼謹慎的方法推向前沿，潛在地影響亞洲 AI 市場的標準和競爭壓力。OpenAI 首席科學家 Jakub Pachocki 呼籲國際協調 AI 開發，這表明在一個地區建立的監管框架和安全協議將不可避免地影響其他地區。亞洲各國政府和 AI 公司應密切關注這些美國內部行業討論，因為它們可能預示著未來的全球監管努力或競爭轉變。要求政府干預的呼聲，正如參議員 Bernie Sanders 提出的暫停 AI 開發法案所示，反映出人們日益認識到自我監管可能不足。如果美國政策制定者轉向更嚴格的監督，它可能會為全球範圍內（包括中國、韓國和新加坡等主要亞洲 AI 中心）先進 AI 的開發和部署樹立先例。亞洲的核心問題是，它將採取類似的謹慎立場，還是繼續其自身的快速發展，從而可能產生不同的監管格局。