AI修图应用暗藏色情深度伪造 苹果Meta被曝撤下

WIRED 发现 Meta 在给一款名叫 Kromix 的 App Store 应用投广告。它对外自称“AI 图像风格化工具”。广告配音却是另一套说法：“无限制”，“所有角色都是真实人物”，“男人真正在用的 AI”。

其中一则广告里，一名女性酷似美国某知名女性政治人物，站在美国国旗和总统旗帜前。配文写着：“如果她动了会怎样？”她眨了一下眼，画面切到同一张脸的色情视频。这类广告一共 32 个版本，Meta 全部只投给男性用户。这款应用真正的用途，是上传真实人物照片，生成未经同意的色情深度伪造。

苹果在 WIRED 联系后把 Kromix 从 App Store 下架，Meta 也撤掉了整个广告活动。苹果的解释是：Kromix 通过初始审核后，才把被禁止的内容和功能加进去。它同时强调，生成、分发或消费色情内容的应用一直被严格禁止。试图规避流程和政策的开发者账户，同样会被移除。但没有说明审核在哪一环失守。

Kromix 不是孤例。上个月，旧金山城市检察官 David Chiu 刚要求苹果移除八款“去衣”应用。WIRED 另一项调查又发现，Meta 上有多条问题广告指向 MaskAI。这款应用同样允许用户上传照片、把人的脸换进性场景。苹果也在 WIRED 联系后把它下架。

Kromix 已经从应用商店消失。上个月的检察官要求，加上这次的下架事件，都指向一个现实。审核补漏的速度，赶不上这类应用冒出来的速度。