Copyleaks 披露苹果应用商店近 50 款 AI 深度伪造色情应用：隐蔽营销与欺诈风险

过去六个月中，Copyleaks 研究人员在 Apple App Store 上识别出近 50 款声称利用 AI 生成内容的移动应用。这些应用在其应用商店列表中宣传 benign（良性）的 AI 功能，如照片编辑、视频滤镜或艺术创作，但一旦下载，用户便会遭遇隐蔽的、具有高度色情性质的面部和身体互换功能。

Copyleaks CEO Alon Yamin 指出："现在几乎没有门槛可以进入这些服务。我们的发现应引起任何关注数字安全和网络非自愿色情内容传播的人的担忧。"

核心发现：六大隐蔽风险模式

Copyleaks 的研究揭示了此类应用存在的系统性问题，主要包括以下六个关键发现：

1. 误导性应用商店描述

所有被审查的应用都在应用商店列表中推广无害的 AI 功能，完全未披露其包含的色情化能力。用户往往基于这些 innocuous（无害）的描述下载应用，却在安装后发现令人震惊的内容。甚至有未成年用户报告了此类经历。

2. 订阅驱动的盈利模式

几乎所有被识别的应用都采用免费试用模板、付费解锁功能的模式。用户通常需要订阅或虚拟信用点才能使用核心功能。部分应用甚至允许用户通过消耗时间或上传内容进行“赚取”信用点。

3. 潜在的诈骗性质

Copyleaks 发现部分应用可能涉嫌诈骗。尽管承诺提供深度伪造服务，但这些应用实际上依赖预录视频或完全合成的视频作为模板，而非处理用户照片生成。用户反馈显示，部分应用在付费后停止工作或无法兑现承诺的功能。

4. TikTok 作为主要发现渠道

几乎所有这些应用都是通过 TikTok 上的广告被发现的。这些广告通常具有色情性质，并展示如何创建 graphic deepfakes。部分广告甚至明确推广非自愿使用，这已成为 TikTok 的 recurring issue（反复出现的问题）。

5. 限制截图与录屏

Copyleaks 发现，许多此类应用阻止用户进行截图和录屏。这种限制使得研究人员、记者和平台难以记录和审查用户生成的内容，同时也增加了判断图像和视频是否为 AI 生成的难度。

6. AI 生成的应用商店列表

Copyleaks 发现，绝大多数被审查的应用在其应用商店列表中使用了 AI 生成的文本。其 AI 检测工具识别出样本中 100% 的文本均为 AI 生成。这些描述反复使用“transforming”（转换）、“bringing to life”（赋予生命）等常见 AI 短语，并强调“一键操作”、“无需编辑技能”等易用性特点。

Copyleaks 推出 AI 检测 API 助力平台治理

针对上述问题，Copyleaks 宣布推出其 AI Detector API，旨在帮助社交媒体平台和应用商店独立识别由主流 AI 模型（如 ChatGPT、Gemini、Claude 等）生成的文本和图像。

该 API 具备企业级安全性，在大规模场景下的准确率超过 99%。Copyleaks 表示，随着更多应用利用 AI 进行营销，该平台将帮助社交平台和应用商店识别潜在风险信号，并对需要额外审查的应用进行标记。

深度伪造应用的合法性与安全性

什么是深度伪造应用？ 深度伪造应用是利用生成式 AI 交换照片中的人物面部、身体或声音，产生看似真实人物的合成媒体。虽然部分应用将自己定位为照片编辑器或视频滤镜工具，但 Copyleaks 的研究发现，其中许多隐藏了未在应用商店列表中披露的色情化面部和身体互换功能。

法律与安全风险 深度伪造应用的合法性和安全性取决于其使用方式及用户所在地。许多司法管辖区已出台法律禁止非自愿的亲密影像，包括 AI 生成的深度伪造。未经同意创建或分发真实人物的色情化深度伪造可能带来严重的法律后果。

此外，Copyleaks 的研究还识别出一些可能作为诈骗工具的深度伪造应用，它们收取订阅费或虚拟信用点却未提供承诺的功能。用户还应意识到，部分应用限制截图和录屏，使得记录实际生成的内容变得更加困难。

结语

Copyleaks 的研究引发了关于平台监管、应用审核流程以及色情化深度伪造技术商业化的重要问题。其研究成果表明，AI 检测技术可以帮助应用商店标记潜在高风险应用，从而更好地维护数字生态的安全与合规。

官方引言

"Our findings should concern anyone focused on digital safety and the spread of nonconsensual sexually explicit content online." — Alon Yamin, CEO of Copyleaks

来源：Copyleaks 官方团队