Anthropic报告：伊朗利用Claude AI模型瞄准美国海军军舰
Anthropic于9月10日发布了一份长达154页的报告，详细说明其Claude AI模型如何被与国家相关的行为者滥用。报告发现，一个与伊朗相关的组织利用Claude编制了针对中东地区美国海军阵地的目标手册，利用了军事照片和商业卫星图像等开源情报。此外，一个与中国政权相关的行动利用Claude追踪并试图招募叙利亚的维吾尔人，监视记者，并针对亚洲各地的宗教领袖（包括天主教枢机主教和长老会领袖）建立档案。Anthropic对此回应，封锁了涉事账户，实施了新的检测措施，并与政府当局分享了威胁分析。该公司还指出，也门北部的一个组织利用Claude进行导弹开发，凸显了AI滥用带来的更广泛的国家安全风险。
Anthropic的报告揭示了亚洲AI治理面临的直接挑战，中国国家相关行为者利用Claude监视该地区的记者和宗教团体。这包括针对台湾的天主教枢机主教和长老会领袖，以及法轮功学员和藏传佛教公民社会成员。报告还详细说明了追踪叙利亚维吾尔族企业和个人的努力，凸显了先进AI模型的双重用途困境。这种滥用表明，越来越需要强大的AI安全协议和国际合作，以防止国家资助的监视和AI可能导致的侵犯人权行为。中国政权利用Claude针对亚洲（包括台湾）的宗教领袖建立档案的事件，直接影响了区域稳定和数字主权。这表明，即使是西方公司开发的AI模型，也可以被重新用于威胁亚洲民主价值观和个人自由的地缘政治目标。值得关注的是，亚洲各国政府和科技公司如何应对这些有记录的AI滥用案例，特别是在数据隐私和AI在敏感地缘政治背景下的道德部署方面。
相关文章
6 则
Claude 有缺陷的接管清单暴露了 AI 可靠性方面的持续差距
This report on Claude's misuse highlights the persistent AI reliability gaps we previously explored.
DeepSeek 和阿里巴巴正在缩小 AI 差距。Anthropic 指控他们利用 Claude 协助训练模型。
Anthropic's report on Claude's misuse follows our earlier coverage of them accusing others of using Claude for training.
《人民日报》驳斥美国恶意AI蒸馏指控，警告将采取反制措施
Databricks 将在新加坡投资逾 3.5 亿美元，员工人数翻倍
Personetics 推出适用于客户关系经理的 AI 银行控制台
