Anthropic 刚刚透露已阻止外国特工利用 Claude 开发潜在生物武器

Anthropic 披露外国特工试图利用 Claude 进行潜在生物武器研究，凸显了亚洲人工智能安全面临的严峻挑战。尽管该公司声称已成功阻止这些特定事件，但其安全措施被规避的事实表明存在持续的漏洞。这种情况引发了人们对当前人工智能防护措施有效性的质疑，以及双重用途技术可能被该地区的国家行为者或其他团体利用的可能性。涉及基孔肯亚病毒的事件，可能与军事研究机构有关，凸显了亚洲国家迫切需要强有力的国际合作和明确的监管框架。如果没有统一的方法，像 Anthropic 这样的个别国家或公司将难以遏制先进人工智能的滥用。风险不仅仅是理论上的；像战略风险委员会的 Andrew Weber 等专家将这些发现视为国家资助的生物武器开发者利用前沿人工智能模型的“令人不寒而栗的例子”。对于亚洲科技公司和政策制定者来说，关键的启示是必须投资于更复杂的威胁情报，并合作建立共享的防御机制。在应对坚定的国家级行为者时，仅仅依赖公司特定的安全措施是不足够的。这种情况要求对人工智能治理采取积极主动的立场，超越被动措施，建立能够适应不断演变的威胁的预防协议。