13款AI换脸应用被指制作裸照 苹果谷歌再被要求下架

这些应用在苹果App Store上有8款，在谷歌Play Store上有5款。它们自称换脸工具，但真实用途是“脱掉”照片里人物的衣服，生成露骨的深度伪造图像。

检察官办公室认为，苹果和谷歌通过应用内购抽成分成，相当于在“协助和教唆”销售这些非法图像。检察官估算两家公司已从中收取了数百万美元费用，并称这种做法“非法、有害且完全不可接受”。

两家公司都有禁止色情内容的开发者规则，过去也因研究人员举报下架过批量换脸应用。谷歌发言人告诉WIRED，他们已经因政策违规删除了“数百个”同类应用，包括函件里提到的5个。今年6月，苹果也收紧了App Store指南里关于开发者对色情内容责任的措辞。

但问题反复出现——之前下架过好几轮，新的类似应用还是能上架。检察官这次要求两家公司切断与开发者的关系并停止抽成。苹果和谷歌会不会照做，目前没有明确说明。检察官办公室也没有公开这些应用的具体名称和下载量。