Anthropic 秘密游说政府：仅在 AI 模型可能导致逾 50 人死亡时才关闭

Anthropic 的提案建议对 AI 模型操作设定一个特定的干预门槛：潜在导致超过 50 人死亡。这为监管行动设定了一个明确但很高的标准。其含义是，不符合此严重标准的模型将在很大程度上不受外部关闭指令的影响，将相当大的责任和自由度交给 AI 开发者本身。

这种方法凸显了 AI 政策讨论中开发者自主权与公共安全之间的张力。通过为政府强制关闭设定一个非常高的门槛，Anthropic 的提案倾向于允许 AI 实验室对其模型的部署和操作拥有显著的控制权。这表明他们相信行业自律，或者至少是外部干预的高门槛，是管理 AI 风险的可行途径。

将特定死亡人数作为监管行动的触发因素，提供了一个具体、可衡量的指标，与更主观的风险评估相比，这可能会简化执法。然而，挑战在于如何在事件发生前准确预测或证明这种严重后果，特别是考虑到先进 AI 模型的复杂性和涌现行为。该方案将需要尚未完全建立或达成共识的强大、可验证的风险评估方法。