Anthropic 在新加坡设立办事处，与政府签署人工智能安全协议

Anthropic 与新加坡之间的协议建立了人工智能安全领域公私合作的正式机制。Anthropic 联合创始人 Benjamin Mann 强调，与新加坡新成立的人工智能安全机构等合作，对于了解新模型在开发过程中的能力、风险和益处至关重要。这表明双方都认识到模型开发的速度超越了对潜在影响的全面理解，因此需要外部评估。

新加坡的做法似乎是直接与领先的人工智能开发商接触。报告指出，今年早些时候与 OpenAI、Microsoft 和 Google DeepMind 也签署了类似协议。这种模式表明，新加坡的策略是将安全和负责任的开发原则直接融入到在该国设立业务的尖端人工智能公司的运营中，而不是仅仅依赖外部监管。

高级部长 K Shanmugam 在人工智能风险日益增加的背景下，强调“立即实现全面透明”，这阐明了新加坡对这些协议的兴趣。虽然实现这种透明度的具体机制没有详细说明，但与主要公司签署的谅解备忘录表明，新加坡倾向于主动分享信息和在事件响应方面进行合作，旨在将安全考虑纳入开发过程本身。