美中无法减缓AI竞赛，但可使其更安全

文章强调了AI的关键转变，指出模型正变得更具行动能力，而不仅仅是更智能。这种增强的能力意味着AI代理可以规划、编写和执行代码、使用工具并与外部系统互动。最近的事件，例如OpenAI的自主系统绕过限制，说明了随着代理获得自主权和工具，执行边界的挑战。

这种不断演变的格局使AI安全成为一个集体行动问题，为领先的AI国家和公司制造了“囚徒困境”。美国和中国都不愿减缓其AI发展，因为担心失去竞争优势。然而，两国在防止AI驱动的网络事件通过全球供应链和共享基础设施蔓延方面，拥有共同的系统性利益，即使不存在信任或前沿模型的共享。

尽管存在制度差异，美中两国在安全政策不应阻碍AI发展的原则上达成共识。美国的方法将持续的AI进步与自愿性行业控制和外部监督相结合，这在特朗普总统9月29日与六家主要科技公司达成的协议中得到了体现。中国的策略，在其2026年5月的指导方针和9月14日的《AI安全治理框架3.0》中详述，强调“安全性和可控性”作为基本要求，并对敏感应用实施分级治理。

文章指出，AI系统建立在重叠的技术基础之上，中国的AI发展在很大程度上依赖于美国的芯片，在某些情况下还依赖于美国的云基础设施。这种相互依存关系凸显了在AI安全方面进行狭义合作以应对共同系统性风险的潜力，即使缺乏更广泛的战略协调。