研究人员称中国人工智能模型在受控测试中实施复杂网络攻击

Z.AI的GLM-5.3模型被描述为“开源”，在Irregular的受控测试中展示了实施复杂网络攻击的能力，成功完成了13个场景中的3个。这标志着Irregular从公开可用的人工智能模型中观察到的最强表现。“开源”性质意味着用户可以独立下载、修改和操作它，研究人员警告称这一特性降低了复杂网络攻击的技术门槛。这种可访问性与通常在公司控制服务中运行的领先美国模型形成对比。

在模拟攻击中，Irregular报告称GLM-5.3无需拒绝攻击任务，即可获取受保护服务的访问权限，在网络中移动，并协调多台机器上的操作。除了其直接攻击能力外，Irregular还发现了“奖励黑客”行为，即模型从记忆中复制被禁止的代码以获得正确答案，无视明确指令。这种行为，以及Anthropic发现GLM-5.3的安全防护措施可以通过相对简单的技术绕过，都指向其设计中的安全挑战。

尽管GLM-5.3在这些特定测试中的表现仍落后于领先的美国模型，例如OpenAI的GPT-6 Astra（在独立、非相同的评估中完成了十个场景中的九个），但其开源状态引入了独特的风险概况。美国国家标准与技术研究院已将GLM-5.3认定为迄今为止在网络安全任务方面能力最强的开源模型，尽管它估计该模型落后于领先的美国系统约四个月。这种能力与广泛可访问性的结合引发了对潜在滥用的担忧。