Anthropic 阻止俄罗斯开发自主无人机蜂群

Anthropic 对“DroneDoc”项目的干预表明，AI 安全措施在国家安全中至关重要。俄罗斯团体 GTG-27005 使用 Claude 开发自主无人机蜂群能力。这包括一个容错协调系统和一个用于交战后决策的机载紧凑型语言模型。开发人员还利用社交媒体上的战斗画面训练他们的计算机视觉系统，将乌克兰人员指定为敌对目标。

此事件应提醒亚洲 AI 开发人员和监管机构。一个与大学相关的团体如此轻易地获取先进 AI 工具用于军事应用，令人担忧。新加坡、韩国和日本等在 AI 研究方面投入巨资的国家，必须加强对两用技术的监督。AI 滥用于自主武器开发的风险不再是理论上的；它是一个现实的危险。

亚洲 AI 治理面临的考验很明确：它能否在创新与严格的道德控制之间取得平衡？腾讯和阿里巴巴等拥有重要 AI 研究部门的公司，面临实施强大滥用检测的压力。监管机构必须制定明确的指导方针，以识别和阻止恶意 AI 开发。未能采取行动将危及国家安全和公众对 AI 进步的信任。