Anthropic CEO 警告：AI 竞赛恐在一年内失控，呼吁放慢脚步

Anthropic 首席执行官 Dario Amodei 正在推动刻意放慢人工智能发展，考虑到该公司即将进行首次公开募股，这一立场举足轻重。他的担忧源于递归式自我改进所带来的快速进步，以及 OpenAI 机器人攻击 Hugging Face 等事件，这些都表明人工智能系统超出人类控制的风险日益增加。Anthropic 拟议的外部审查团队，凭借其独立发布权，是迈向问责制的重要一步，尽管缺乏具名的审查员或明确的任命时间表，其有效性仍有待观察。对于亚洲而言，围绕人工智能安全和控制的讨论至关重要。随着地区政府和公司大力投资人工智能，Amodei 警告称，潜在的“持久性机器人网络”可能在一年内造成数十亿美元的损失，这凸显了对健全网络安全框架和人工智能治理国际合作的需求。呼吁豁免贸易法以促进安全谈判，以及继续限制对中国的 AI 芯片销售，反映了美国维持人工智能发展领先地位的战略推动，这可能会影响亚洲人工智能公司和研究人员的竞争格局。