纽时赏析／伊中开创AI认知作战自动化
伊朗、中国及以色列境内团体在社交媒体上发起了自主人工智能影响力行动。这些行动利用中国开源人工智能模型，创建了数百个人工智能代理。这些代理随后在Instagram、Facebook、X和TikTok等平台上建立虚假账户，散布虚假的政治信息和时事，以影响公众舆论并煽动议题，引起美国官员和安全研究人员的关注。
伊朗和中国的国家支持者利用中国开源人工智能模型自动化影响力行动，标志着一个重大转变。这些模型使网络操纵达到前所未有的速度和规模。这些行动绕过了标准的安全措施，让人工智能代理能够在最少人为互动的情况下创建虚假账户并散布虚假信息。这显示了国家资助的数字干预达到了新的复杂程度。
对于亚洲而言，这项发展意味着对该地区开发的开源人工智能模型将受到更严格的审查。中国开发商面临实施更严格道德准则和安全措施以防止滥用的压力。亚洲各地的监管机构将需要应对人工智能驱动的虚假信息的扩散。像字节跳动（TikTok）和腾讯（WeChat）这样的公司可能会面临对平台问责制日益增长的要求。
关键在于主要科技公司和政府如何应对这些自主人工智能行动。仅伊朗的行动就在今年上半年为人工智能创建的账户带来了近80,000名追随者。有效的反制措施将需要平台供应商和情报机构之间的协调努力。若未能采取行动，这些自动化的影响力行动将会升级。
相关文章
6 则
Claude Code 在 103 秒内删除 48,000 个文件，发出严峻的 AI 代理警告
Our prior coverage warned how quickly AI agents can act, a capability now weaponised in influence campaigns.
要保护澳大利亚人免受潜在人工智能灾难，仅靠一封电子邮件发到公开收件箱是远远不够的
We previously explored the challenges of protecting against AI's potential harms, a concern amplified by automated disinformation.
分析师：中国生物科技公司药物交易超越授权，迈向价值链高端
平陆运河凸显中国转向东南亚
Anthropic在美国供应链风险标签问题上遭遇法庭挫败
