OpenAI 首席执行官 Sam Altman：世界必须接受“一些坏事发生”才能让 AI 成功

Sam Altman 的评论凸显了人工智能行业内部在创新、可访问性和风险之间平衡方面的根本分歧。尽管 Anthropic 一直是更严格人工智能监管的倡导者，但 Altman 认为，人工智能潜在的“数量级更多的益处”证明了容忍某些负面结果是合理的。他拒绝了以牺牲公众可访问性为代价来消除所有滥用的情景，认为这种权衡是“完全不可接受的”。

尽管他持接受某些伤害的立场，但 Altman 对于“真正灾难性的风险”划清了明确界限，特别提到了“人工智能严重失控”。这表明 OpenAI 对于“坏事”的容忍并非无限，并承认了一个关键的阈值，一旦超过这个阈值，即使对于更广泛部署人工智能的倡导者来说，风险也变得不可接受。

文章指出，尽管 Altman 在言辞上有所区分，但 OpenAI 的政策立场最近已开始与 Anthropic 更为接近。OpenAI 支持更严格的安全要求、外部安全评估员，并呼吁减缓先进人工智能模型的开发。这种转变表明，现实世界的事件，例如黑客攻击和意外的模型行为，可能正在影响该公司对监管的态度，使其更接近其被视为竞争对手在安全和控制方面的观点。