“他们正在玩弄我们的生命”：AI 研究员辞职离开 Anthropic

Jacob Coxon 离开 Anthropic 和 AI 行业，凸显了美国领先 AI 实验室内部关于先进模型开发速度和安全性的关键辩论。Coxon 声称公司在没有足够保障的情况下“径直冲向自我改进的超级智能”，这表明创新与风险管理之间存在显著的张力。这种内部摩擦，得到了 Anthropic 自身安全主管 Evan Hubinger 的公开支持，他估计 AI 在十年内导致人类灭绝的风险为 10%，直接挑战了该行业关于受控进步的说法。对于亚洲而言，这场以美国为中心的辩论具有明确的影响。随着全球 AI 开发加速，美国缺乏联邦监管可能会将不那么谨慎的方法推向前沿，潜在地影响亚洲 AI 市场的标准和竞争压力。OpenAI 首席科学家 Jakub Pachocki 呼吁国际协调 AI 开发，这表明在一个地区建立的监管框架和安全协议将不可避免地影响其他地区。亚洲各国政府和 AI 公司应密切关注这些美国内部行业讨论，因为它们可能预示着未来的全球监管努力或竞争转变。要求政府干预的呼声，正如参议员 Bernie Sanders 提出的暂停 AI 开发法案所示，反映出人们日益认识到自我监管可能不足。如果美国政策制定者转向更严格的监督，它可能会为全球范围内（包括中国、韩国和新加坡等主要亚洲 AI 中心）先进 AI 的开发和部署树立先例。亚洲的核心问题是，它将采取类似的谨慎立场，还是继续其自身的快速发展，从而可能产生不同的监管格局。