AI 生成男孩在中國產品銷售騙局中吸引 6 億次觀看

描繪虛擬角色「小海」的影片利用貧困和困苦的一貫故事情節，吸引了中年和老年女性觀眾，帶來了可觀的產品銷售。當一名 79 歲的婦女試圖前往會見小海，卻被警方說服該男孩是 AI 生成時，便可見大眾對該角色真實性的普遍信任。

此事件突顯了在 AI 生成影片迅速擴張的背景下，內容監管所面臨的挑戰。今年上半年，中國的 AI 短劇市場達到 220 億元人民幣，快手報告稱，截至 7 月，AI 影片觀看量增長了 321%。此類內容的龐大數量和情感共鳴使其難以有效監管。

儘管中國國家互聯網信息辦公室 (CAC) 已對超過 13,000 個未標示 AI 內容的帳戶進行處罰，並刪除了超過 543,000 篇貼文，同時也打擊了互聯網廣告濫用行為，但小海的影片仍然累積了 6 億次觀看。這表明在現有規則和執法努力下，情感導向的 AI 生成內容仍能達到可觀的觸及率和影響力，存在一個監管漏洞。