65岁中国妇人一人分饰两角：美艳医生与其母，诈骗男子2.5万美元
上海一名65岁妇人余秀珍利用人工智能（AI）创建了一个29岁医生的虚假在线身份。她一人分饰医生及其母亲两角，诈骗男子刘辉17万元人民币（2.5万美元）。余妇在一个社交媒体平台上发布了近7,000条视频，并在五年内积累了1万名关注者。警方发现她的视频上带有一个小小的“AI生成内容”免责声明。
65岁妇人余秀珍的诈骗案显示了中国AI诈骗的低门槛。她能够在五年内通过AI生成内容积累1万名关注者和近7,000条视频，这表明平台内容审核存在重大漏洞。受害者刘辉忽略了一个小小的免责声明，这说明目前的披露方法对许多用户来说不足够。
这起事件凸显了中国社交媒体平台和监管机构面临的挑战。北京在推动AI创新的同时，也面临着AI诈骗日益增多的问题。抖音或快手等平台现在必须在用户生成内容与更清晰、更显眼的AI披露之间取得平衡。监管机构面临的考验是，他们是否会强制实施更严格的內容标签，还是面临公众信任赤字。
值得关注的是，中国主要平台将多快实施更强大的AI内容标签。一个简单的免责声明是不够的。预计到2027年，将会出现新的法规，强制要求AI生成视频带有显眼、明确的水印或叠加层。这将把负担从用户警惕性转移到平台责任，影响内容创作和审核成本。
相关文章
6 则
随着人工智能安全担忧加剧，美中热线能否预防全球危机？
Beijing pushes for AI innovation while facing rising AI-enabled fraud; we asked if a US-China hotline could prevent a global crisis.
AI 首席执行官呼吁国会采取行动，减缓发展并加强安全
This incident underscores the need for stronger AI safety, a call echoed by an AI CEO for congressional action.
丰隆银行新卡经火锻造，无法申请
近半新加坡人乐意让AI申请信贷
阿里巴巴以新芯片和20吉瓦数据中心目标扩展AI算力
