「留言多不代表很多人」:Azalina 警告提防 AI 認知攻擊
巫統資訊主任 Azalina Othman Said 警告,提防有人利用 AI 建立虛假帳戶並產生內容,以影響馬來西亞的政治討論。她指出,社交媒體上大量的留言不一定反映大多數人的觀點,因為 AI 驅動的機械人可以產生大量支持某一方或攻擊另一方的留言。此警告是在 AI 公司 Anthropic 的報告之後發出,該報告由 Channel NewsAsia 詳細報導,指出了大約 1,000 個虛假 X 帳戶和捏造的新聞網站,這些帳戶和網站被用於散佈虛假指控。Azalina 敦促馬來西亞人對網上分享的資訊更具辨別力,強調需要核實來源和事實,並區分新聞和意見。她還呼籲對此類行動進行公平調查,無論涉及哪個政黨。
正如 Azalina Othman Said 所強調,馬來西亞政府正嚴肅看待 AI 驅動的政治論述認知攻擊威脅。她的評論突顯了東南亞地區對濫用 AI 操縱公眾輿論日益增長的擔憂,特別是透過虛假社交媒體帳戶和捏造新聞。Anthropic 報告指出了 1,000 個虛假 X 帳戶,反映了這些複雜影響行動的規模。對於亞洲的科技專業人士來說,這種情況指出了 AI 發展的雙重挑戰:其巨大的潛力和其重大的風險。雖然 AI 提供了提高效率和創新的工具,但其在創建欺騙性內容方面的部署需要強而有力的應對措施和道德框架。馬來西亞政府的立場表明,可能會加強對 AI 在公共通訊中使用的監管審查,這可能會影響 AI 公司在該地區的運營方式以及社交媒體平台如何承擔責任。對公平調查的強調也表明,推動所有參與網上政治活動的各方提高透明度和問責制。
相關文章
6 則用於假新聞檢測的分佈式學習聯邦大型語言模型 - Nature
Our past coverage explored how federated large language models can be used for fake news detection.

中國火箭熱潮將海南變成太空樞紐。發射能否推動更廣泛的增長?

Anthropic 將 Claude 聊天和 Cowork 合併到單一介面

Threads 新功能讓播客推廣節目並接觸聽眾

中國 Z.ai 獲注資 50 億美元後,收入目標上調 25%

