应用商店换脸应用可制裸照 苹果谷歌审核失灵

旧金山市检察官David Chiu周四向苹果和谷歌发出法律通知，要求下架13款换脸应用。这些应用允许用户用AI生成未经同意的裸照。通知称两家公司“协助和教唆”销售露骨的深度伪造图像，应“切断”与开发者的商业关系。

苹果和谷歌都有开发者政策，禁止平台上出现色情、虐待和骚扰内容。但研究人员反复在两家应用商店中发现并报告了允许用户用AI生成性图像的应用，其中一些还被评级为适合儿童使用。

这不是孤立案例。康奈尔大学和乔治城大学的研究人员在5月发表的预印本论文中，在苹果和谷歌的应用商店共识别出420款提供通用换脸功能的应用。他们测试了其中155款，看是否可用于创建裸体换脸——在70%的案例下是可行的，且这些应用没有加入防止此类使用的安全措施。

作者Michael Tsai的看法是，这13款应用对自身功能描述明确，苹果的应用审核团队没有理由遗漏它们。问题可能出在审核流程本身：苹果不是不知道，而是没有把规则执行到位。

目前不清楚苹果和谷歌是否会遵从要求下架这些应用，也不清楚那420款换脸应用中有多少已被下架或添加了安全措施。