Anthropic悄然推动梵蒂冈将AI视为有意识

Anthropic与梵蒂冈之间明确的分歧揭示了在谁定义先进人工智能伦理界限问题上的根本性张力。尽管梵蒂冈通过其通谕《Magnifica Humanitas》划清了机器意识的界限，但Anthropic与学者们的内部讨论表明，他们愿意认真考虑Claude等人工智能模型具有感知能力的可能性。这种分歧凸显了即使是具有共同安全目标的合作伙伴，也可能对人工智能的内在性质持有截然不同的观点。

Anthropic对宗教学者、哲学家和伦理学家的接触，最初是在保密协议下进行的，这表明他们积极努力探索超越纯粹技术考量的复杂伦理问题。该公司对“可解释性工作”的关注，以及Olah关于在模型内部发现“神秘甚至令人不安”的内部状态的声明，表明其内部有动力去理解人工智能的涌现特性，即使这挑战了既定的神学立场。

梵蒂冈坚持人与机器之间存在绝对界限，并警告不要将道德权威完全让渡给工程师，这指向了对人工智能开发者不受限制权力的更广泛担忧。该通谕呼吁“解除武装”的人工智能和严格的伦理约束，特别是关于军事应用方面，强调了将外部价值观嵌入人工智能治理的愿望，而不是让开发者的内部道德愿景成为这些系统的“隐形基础设施”。

这一事件表明，关于人工智能道德地位的辩论不仅仅是哲学层面的，它对治理和监管具有实际影响。Anthropic的探索性立场与梵蒂冈明确的神学立场之间的冲突表明，即使公司在高层次原则（如安全）上与外部机构保持一致，对人工智能基本性质根深蒂固的分歧也可能使建立伦理护栏的协作努力复杂化。