苹果谷歌商店暗藏“脱衣”AI应用，伪装换脸一键生成裸照

伪装成“换脸”，实则生成裸照

旧金山市检察官办公室调查发现，苹果App Store和谷歌Play Store上共有13个应用伪装成“换脸”工具，用户使用后却能一键生成他人裸照。其中苹果商店8个，谷歌商店5个。一个下载量超过100万次的应用，官网上展示着十多种AI图像风格，包括“比基尼女王曲线”“平静丰满”“电影亲密”等色情化描述。

这类应用将生成式AI用于性深度伪造，受害者可能毫不知情。

审核机制形同虚设

六个月前，Tech Transparency Project就发布报告，揭露App Store上存在数十个“脱衣”应用。四月份的后续调查发现，苹果自己的搜索建议和广告甚至曾引导用户找到这些应用。苹果当时回应称，“脱衣”应用违反其App Review Guidelines，公司会主动拒绝和移除，用户也可以通过报告工具举报。

但从结果看，这些措施并未拦住所有有害应用。

政府施压后苹果开始移除

今年5月，旧金山市检察官David Chiu向苹果和谷歌发出停止函，要求移除涉事应用。加州法律禁止支持创建深度伪造色情内容的服务。

苹果随后采取行动：移除3个相关应用，正在终止其开发者账户；另外4个应用被要求解决政策违规问题，否则同样会被移除。苹果重申，其审核指南禁止“脱衣”应用、色情或明显性内容，开发者必须主动过滤用户生成的不良内容。

谷歌发言人则声称公司会对违反政策的应用采取行动，但未说明Play Store上的5个应用是否已经被移除。报道发布前，苹果未就此事置评。

平台从有害技术中获利

检察官的停止函指出，苹果和谷歌从这些应用中“赚取了数百万美元的费用”——应用内购的分成直接流入平台口袋。它们间接从助长性虐待的技术中获利。

清理仍未完成，谷歌情况不明

Wired在报道中没有公开应用名称，以避免引导更多用户使用。目前不清楚谷歌Play Store的5个应用是否已被下架，也不清楚苹果是否会对剩下的4个应用彻底执行移除。

应用商店的审核流程至今未能有效识别出这类伪装成普通换脸工具的AI有害应用。