65歲中國婦人一人分飾兩角：美艷醫生與其母，詐騙男子2.5萬美元
上海一名65歲婦人余秀珍利用人工智能（AI）創建了一個29歲醫生的虛假網上身份。她一人分飾醫生及其母親兩角，詐騙男子劉輝17萬元人民幣（2.5萬美元）。余婦在一個社交媒體平台上發布了近7,000條影片，並在五年內累積了1萬名追蹤者。警方發現她的影片上帶有一個小小的「AI生成內容」免責聲明。
65歲婦人余秀珍的詐騙案顯示了中國AI詐騙的低門檻。她能夠在五年內透過AI生成內容累積1萬名追蹤者和近7,000條影片，這表明平台內容審核存在重大漏洞。受害者劉輝忽略了一個小小的免責聲明，這說明目前的披露方法對許多用戶來說不足夠。
這宗事件突顯了中國社交媒體平台和監管機構面臨的挑戰。北京在推動AI創新的同時，也面臨著AI詐騙日益增多的問題。抖音或快手等平台現在必須在用戶生成內容與更清晰、更顯眼的AI披露之間取得平衡。監管機構面臨的考驗是，他們是否會強制實施更嚴格的內容標籤，還是面臨公眾信任赤字。
值得關注的是，中國主要平台將多快實施更強大的AI內容標籤。一個簡單的免責聲明是不夠的。預計到2027年，將會出現新的法規，強制要求AI生成影片帶有顯眼、明確的水印或疊加層。這將把負擔從用戶警惕性轉移到平台責任，影響內容創作和審核成本。
相關文章
6 則
隨著人工智能安全擔憂加劇，美中熱線能否預防全球危機？
Beijing pushes for AI innovation while facing rising AI-enabled fraud; we asked if a US-China hotline could prevent a global crisis.
AI 行政總裁呼籲國會採取行動，減緩發展並加強安全
This incident underscores the need for stronger AI safety, a call echoed by an AI CEO for congressional action.
豐隆銀行新卡以火鍛造，無法申請
近半新加坡人樂意讓AI申請信貸
阿里巴巴以新晶片和20吉瓦數據中心目標擴展AI運算能力
