Anthropic 指出威胁行为者利用 Claude 进行监控、网络行动及武器开发

Anthropic 发布的关于 AI 滥用的报告，重点不在于模型安全，而在于国家支持的行动者和商业实体所带来的即时、切实的威胁。最引人注目的细节是阿里巴巴在策划最大规模的蒸馏攻击中所扮演的角色，该攻击涉及来自超过 3,500 个欺诈账户的近 300 万次每日交换。这表明一家主要的亚洲科技公司为了自身的研发，进行了重大、系统性的努力来获取先进模型的能力，而不只是单一的流氓行为者。

这种非法蒸馏直接惠及中国的 AI 发展，特别是阿里巴巴的模型。它允许中国公司绕过美国的出口管制，加速其自身的推理能力和模型架构研究。对于亚洲监管机构而言，这显示了 AI 时代知识产权保护和数据主权所面临的挑战。它也引发了关于主要科技公司为获得竞争优势而愿意跨越的道德界线的问题。

值得关注的是，美国和欧洲监管机构将如何应对国家支持或商业实体使用非法蒸馏的证据。可能会出现更严格的执法或新的技术对策。这可能会影响前沿模型的全球可用性，并于 2027 年进一步分化 AI 开发格局。目前的监管框架显然不足以阻止此类复杂的攻击。