紐時賞析／伊中開創AI認知作戰自動化
伊朗、中國及以色列境內團體在社交媒體上發起了自主人工智能影響力行動。這些行動利用中國開源人工智能模型，創建了數百個人工智能代理。這些代理隨後在Instagram、Facebook、X和TikTok等平台上建立虛假帳戶，散佈虛假的政治資訊和時事，以影響公眾輿論並煽動議題，引起美國官員和安全研究人員的關注。
伊朗和中國的國家支持者利用中國開源人工智能模型自動化影響力行動，標誌著一個重大轉變。這些模型使網絡操縱達到前所未有的速度和規模。這些行動繞過了標準的安全措施，讓人人工智能代理能夠在最少人為互動的情況下創建虛假帳戶並散佈虛假資訊。這顯示了國家資助的數碼干預達到了新的複雜程度。
對於亞洲而言，這項發展意味著對該地區開發的開源人工智能模型將受到更嚴格的審查。中國開發商面臨實施更嚴格道德準則和安全措施以防止濫用的壓力。亞洲各地的監管機構將需要應對人工智能驅動的虛假資訊的擴散。像字節跳動（TikTok）和騰訊（WeChat）這樣的公司可能會面臨對平台問責制日益增長的要求。
關鍵在於主要科技公司和政府如何應對這些自主人工智能行動。僅伊朗的行動就在今年上半年為人工智能創建的帳戶帶來了近80,000名追隨者。有效的反制措施將需要平台供應商和情報機構之間的協調努力。若未能採取行動，這些自動化的影響力行動將會升級。
相關文章
6 則
Claude Code 在 103 秒內刪除 48,000 個檔案，發出嚴峻的 AI 代理警告
Our prior coverage warned how quickly AI agents can act, a capability now weaponised in influence campaigns.
要保護澳洲人免受潛在人工智能災難，僅靠一封電郵發到公開收件箱是遠遠不夠的
We previously explored the challenges of protecting against AI's potential harms, a concern amplified by automated disinformation.
阿里巴巴如何利用人工智能改造其地圖應用程式，並挑戰美團
分析師：中國生物科技公司藥物交易超越授權，邁向價值鏈高端
平陸運河凸顯中國轉向東南亞
