Anthropic 秘密遊說政府：僅在 AI 模型可能導致逾 50 人死亡時才關閉

Anthropic 的提案建議對 AI 模型操作設定一個特定的干預門檻：潛在導致超過 50 人死亡。這為監管行動設定了一個明確但很高的標準。其含義是，不符合此嚴重標準的模型將在很大程度上不受外部關閉指令的影響，將相當大的責任和自由度交給 AI 開發者本身。

這種方法突顯了 AI 政策討論中開發者自主權與公共安全之間的張力。透過為政府強制關閉設定一個非常高的門檻，Anthropic 的提案傾向於允許 AI 實驗室對其模型的部署和操作擁有顯著的控制權。這表明他們相信行業自律，或者至少是外部干預的高門檻，是管理 AI 風險的可行途徑。

將特定死亡人數作為監管行動的觸發因素，提供了一個具體、可衡量的指標，與更主觀的風險評估相比，這可能會簡化執法。然而，挑戰在於如何在事件發生前準確預測或證明這種嚴重後果，特別是考慮到先進 AI 模型的複雜性和湧現行為。該方案將需要尚未完全建立或達成共識的強大、可驗證的風險評估方法。