AI 生成男孩在中国产品销售骗局中吸引 6 亿次观看

描绘虚拟角色“小海”的视频利用贫困和困苦的一贯故事情节，吸引了中年和老年女性观众，带来了可观的产品销售。当一名 79 岁的妇女试图前往会见小海，却被警方说服该男孩是 AI 生成时，便可见大众对该角色真实性的普遍信任。

此事件凸显了在 AI 生成视频迅速扩张的背景下，内容监管所面临的挑战。今年上半年，中国的 AI 短剧市场达到 220 亿元人民币，快手报告称，截至 7 月，AI 视频观看量增长了 321%。此类内容的庞大数量和情感共鸣使其难以有效监管。

尽管中国国家互联网信息办公室 (CAC) 已对超过 13,000 个未标注 AI 内容的账户进行处罚，并删除了超过 543,000 篇帖子，同时也打击了互联网广告滥用行为，但小海的视频仍然累计了 6 亿次观看。这表明在现有规则和执法努力下，情感导向的 AI 生成内容仍能达到可观的触及率和影响力，存在一个监管漏洞。