儘管行政總裁發出安全警告，Anthropic 的 AI 開發速度仍倍增

METR 評估小組詳細說明，Anthropic AI 開發的快速加速，集中於一個稱為遞歸式自我改進的過程。這種機制涉及 Anthropic 現有的 Claude 聊天機械人積極參與後續 AI 模型的創建。實際上，該公司正在利用其目前的 AI 能力來增強和構建其自身技術的更先進版本，直接促成了觀察到的開發速度倍增。

這種 AI 輔助開發方法對技術進步的速度產生影響。METR 獲得了 Anthropic 的內部數據和員工的訪問權限，並警告說，不受限制的自我改進 AI 可能會加劇這種加速，潛在達到其進步超越人類理解和控制的程度。該報告強調了利用先進 AI 加速開發的實際應用與這種速度帶來的長期治理挑戰之間的張力。

儘管 Anthropic 行政總裁 Dario Amodei 公開敦促更廣泛的 AI 行業放慢進度，但這些發現仍然浮出水面。Amodei 的既定目標是確保安全措施能夠充分跟上技術進步的步伐。因此，該報告指出，該公司內部開發動力（由有效的 AI 驅動流程推動）與其領導層對更謹慎的行業範圍方法的外部呼籲之間可能存在分歧。