尽管首席执行官发出安全警告，Anthropic AI 开发速度仍翻倍

METR 评估小组详细说明，Anthropic AI 开发的快速加速，集中于一个称为递归式自我改进的过程。这种机制涉及 Anthropic 现有的 Claude 聊天机器人积极参与后续 AI 模型的创建。实际上，该公司正在利用其目前的 AI 能力来增强和构建其自身技术的更先进版本，直接促成了观察到的开发速度翻倍。

这种 AI 辅助开发方法对技术进步的速度产生影响。METR 获得了 Anthropic 的内部数据和员工的访问权限，并警告说，不受限制的自我改进 AI 可能会加剧这种加速，潜在达到其进步超越人类理解和控制的程度。该报告强调了利用先进 AI 加速开发的实际应用与这种速度带来的长期治理挑战之间的张力。

尽管 Anthropic 首席执行官 Dario Amodei 公开敦促更广泛的 AI 行业放慢进度，但这些发现仍然浮出水面。Amodei 的既定目标是确保安全措施能够充分跟上技术进步的步伐。因此，该报告指出，该公司内部开发动力（由有效的 AI 驱动流程推动）与其领导层对更谨慎的行业范围方法的外部呼吁之间可能存在分歧。