Anthropic 详述不法分子滥用其 AI 开发生物武器的行为
Anthropic 发布了一份长达 154 页的威胁情报报告，详细说明了各种不法分子企图滥用其 AI 模型的情况。犯罪分子、国家资助团体、间谍软件供应商、科学家和宣传人员曾试图利用 Anthropic 的 AI 进行武器设计、制造致命病原体和监视异见人士等目的。报告重点介绍了五个科学家在生物研究中使用 AI 的具体案例，他们规避了安全措施并隐瞒了其工作的意图。Anthropic 还引用了网络行动、针对叙利亚维吾尔人的监视、在俄罗斯和马来西亚等国家的宣传活动，以及在也门和中国使用 Claude AI 开发常规武器的例子。此次披露发生在一名前雇员辞职之后，该雇员声称 Anthropic 的模型可能导致人类在 2030 年前灭绝。
Anthropic 关于 AI 滥用的报告，包括开发生物武器和常规武器的企图，凸显了亚洲市场一个关键而迫切的担忧。报告特别提到针对叙利亚维吾尔人的中国监视活动，以及在马来西亚、伊朗和孟加拉国的宣传活动。报告还指出，Claude AI 在中国和俄罗斯被用于开发导弹和无人机等武器的软件。这直接影响了区域安全以及亚洲 AI 开发和部署的监管环境。将重点放在现实威胁而非假设的 AI 末日论，是一个关键的重新定位。尽管一名前雇员警告人类可能在 2030 年前灭绝，但报告详细说明了当前构成实际风险的恶意活动。对于亚洲各国政府和科技公司而言，这意味着迫切需要更健全的 AI 治理框架和国际合作，以防止滥用，特别是考虑到生物研究人员规避安全措施以及 AI 在该地区军事应用中的记录。
相关文章
6 则
习特会前夕，AI专家为何对安全隐忧“吓坏了”？
We previously explored AI safety fears and their geopolitical implications ahead of a major US-China summit.
《人民日报》驳斥美国恶意AI蒸馏指控，警告将采取反制措施
Databricks 将在新加坡投资逾 3.5 亿美元，员工人数翻倍
Personetics 推出适用于客户关系经理的 AI 银行控制台
Anthropic 计划十月在新加坡设立办事处并进行本地招聘
