App Store 新規例打擊 AI 深度偽造和「裸體化」應用程式

Apple 擴展的審核規例為應用程式開發者在 AI 生成內容方面引入了更清晰的期望。雖然性露骨內容已被禁止，但新指引明確要求開發者主動識別並消除其平台上的 AI 深度偽造內容。這將部分內容審核的責任轉移到應用程式創作者身上，否則將面臨從 App Store 移除的威脅。

對主動預防和移除的強調，特別是針對 AI 內容創作應用程式，突顯了對生成式 AI 技術濫用日益增長的擔憂。提及 xAI 的 Grok 聊天機械人曾因裸體深度偽造內容而收到 Apple 警告，表明這些規例是對已報告問題的直接回應，旨在將先前的臨時干預措施正式化。

此外，新的 2.5.19 指引解決了「誘騙和轉換」策略，即應用程式可能在審查過程中誤報其目的，之後才引入有害功能。此規例旨在透過堵塞允許開發者規避初始內容審查的漏洞，來遏制旨在創建未經同意私密圖像（例如「裸體化」應用程式）的應用程式的分發。

這些更新反映了 Apple 正在努力維持對其生態系統中分發內容的控制，將其對人口販運和兒童剝削等非法內容的現有禁令擴展到替代應用程式分發方法。該公司堅定的立場表明對不合規行為的容忍度很低，旨在保護用戶免受與 AI 生成內容相關的不斷演變的風險。