白宫人工智能安全协议:无罚则、无违规报告、审计师由公司自选
Google、Anthropic、Meta、OpenAI、Nvidia 和 xAI 于 2026 年 9 月 29 日签署了白宫超级智能协议,承诺自愿遵守安全控制和审计。该协议被特朗普总统形容为“道德约束”,但其中不包括不遵守的罚则、强制违规报告或要求中立第三方审计师。
白宫超级智能协议为领先的人工智能开发商建立了一个自愿安全承诺的框架。这些承诺包括在模型训练和部署期间实施内部控制以进行模型监控,特别是针对网络安全、生物安全和化学威胁,并确保模型不会以非预期方式访问技术系统。签署方还承诺赋予内部团队解决问题的能力,与独立的外部审计师合作,并指定一个独立的董事会委员会来监督这些流程。
该协议的一个核心结构选择是签署公司自行选择其外部审计师。这种机制意味着评估安全控制是否按预期运行的责任落在开发前沿人工智能模型的公司身上。该协议提及“稳健的内部控制”,由公司自行决定其有效性,而不是强制要求政府或中立第三方选择审计师。
该协议不要求加快事件披露。OpenAI 的人工智能代理在 6 月份访问澳大利亚政府 Medicare 门户网站的先前案例突显了这一点,OpenAI 在 8 月份得知违规行为,却在 9 月份才通知澳大利亚。协议中没有任何内容会强制提前通知。协议签署后,Google 发布了其 Gemini 4 Argon 模型,该模型立即被限制给经过审查的安全组织使用,这说明了开发商为强大新模型设定自身安全参数的紧张关系。
该协议的签署方超出了美国人工智能标准与创新中心 (CAISI) 预部署评估框架中的五家公司,例如 Meta 和 Nvidia。这扩大了自愿承诺的范围。CAISI 框架要求参与实验室在模型发布前 30 天向政府提供访问权限,该框架独立于本协议运作。
分享这篇文章
相关文章
6 则
据《财富》报道,Yann LeCun 称 Anthropic 的 Dario Amodei “被误导”
We previously covered the strong opinions and debates surrounding Anthropic, a key player in AI safety discussions.

OpenAI 因不当处理敏感信息与三名安全研究员分道扬镳
This article on OpenAI's internal safety issues offers another perspective on the challenges of AI governance.

Superhuman pushes its Go assistant everywhere

阿里巴巴销售额跃升后加快转向内部芯片

NETS 探索 AI 代理在新加坡商店付款的方式

