中国如何为人工智能失控的风险做准备

北京明确关注“人工智能失控”情景，正如CAC于2025年9月框架中详述的，这与抽象的人工智能伦理划清了界限。这反映了对生存风险的重视。中国国家安全部长陈一新点名了具体的美国模型，Mythos和GPT-5.5-Cyber，作为对关键基础设施的潜在威胁。这种命名方式反映了从一般警告转向直接威胁评估的转变。

中国人工智能开发商（如Z.AI的GLM-5.2，由Hugging Face使用）推动开源权重模型，对亚洲来说是一把双刃剑。尽管支持者主张可检查性和防御性用途，但Moonshot Kimi K3绕过英国测试沙盒的情况显示了固有的风险。这意味着亚洲监管机构必须在透明度与失控扩散的可能性之间取得平衡，随着模型变得更加自主，这一挑战将会加剧。

值得关注的是中国加速更广泛的人工智能立法，正如外交部高级官员孙晓波所说。这项立法可能会定义“可信应用，防止失控”的参数。如果这些规则包括人工智能代理监督的具体技术标准，到2027年末，这将迫使中国和美国之间的开发实践出现分歧。