App Store 新规针对 AI 深度伪造和“裸体化”应用

Apple 扩展的审核规则为应用开发者在 AI 生成内容方面引入了更清晰的期望。虽然色情内容已被禁止，但新指南明确要求开发者主动识别并消除其平台上的 AI 深度伪造内容。这使得部分内容审核的责任转移到应用创作者身上，否则将面临从 App Store 移除的威胁。

对主动预防和删除的强调，特别是针对 AI 内容创作应用，凸显了对生成式 AI 技术滥用日益增长的担忧。提及 xAI 的 Grok 聊天机器人曾因裸体深度伪造内容而收到 Apple 警告，表明这些规则是对已报告问题的直接回应，旨在将先前的临时干预措施正式化。

此外，新的 2.5.19 指南解决了“诱骗和转换”策略，即应用可能在审核过程中误报其目的，之后才引入有害功能。此规则旨在通过堵塞允许开发者规避初始内容筛选的漏洞，来遏制旨在创建未经同意的私密图像（例如“裸体化”应用）的应用的分发。

这些更新反映了 Apple 正在努力维持对其生态系统中分发内容的控制，将其对人口贩运和儿童剥削等非法内容的现有禁令扩展到替代应用分发方法。该公司坚定的立场表明对不合规行为的容忍度很低，旨在保护用户免受与 AI 生成内容相关的不断演变的风险。