Meta投放了含AI生成的儿童性虐待图像的广告

# Meta 投放了包含 AI 生成的儿童性虐待图像的广告 来源：https://www.wired.com/story/meta-ran-ads-that-contained-ai-generated-child-sexual-abuse-imagery/ *编者按：本文包含描述儿童性虐待的图像内容。强烈建议读者自行判断是否阅读。* 在过去的九个月里，马克·扎克伯格旗下的 Meta (https://www.wired.com/tag/meta/) 投放了数十个付费广告，其中包括露骨的 AI 生成的儿童性虐待材料（CSAM）以及未成年人图像，并配有性暗示文字。这一细节由与 WIRED 分享的广告信息所揭示。这些广告的目标受众包括居住在美国、英国以及十几个欧洲国家的人，部分广告触达了数千个账户。 Tech Transparency Project (TTP) 的研究人员最近在 Meta 的广告资料库中发现了超过 50 个包含虐待内容的图片和视频广告，这些列表显示部分广告链接到了所谓的“脱衣”或“一键去衣”应用 (https://www.wired.com/story/san-francisco-demands-apple-and-google-delete-ai-nudify-apps-from-app-stores/)。Meta 的广告资料库是一个记录该公司平台上广告的透明度工具，显示这些广告分布在 Facebook、Instagram、Messenger 和/或 Threads 上。这些发现是近几周内第二次在 Meta 平台上发现有付费广告与儿童性虐待材料有关 (https://www.bbc.com/news/articles/cvgm4e0316zo)。 TTP（一个独立的监督组织）主任 Katie Paul 告诉 WIRED：“这些广告完全没有试图掩盖图像或隐藏它们所推广的内容。需要指出的是，这不是第三方在 Facebook 或 Instagram 上发布的内容，而是由 Meta 审查、批准并允许投放的广告，在公司赚取广告费的过程中从未遇到任何干预。” 研究人员发现的这些广告——目前已被 Meta 以违反其关于儿童性虐待和剥削材料 (https://transparency.meta.com/policies/community-standards/child-sexual-exploitation-abuse-nudity/) 以及成人性挑逗和裸露的政策为由移除——均发布于去年 11 月至今年 8 月初之间。根据 Meta 广告透明度库的数据，这些广告通常持续投放数天，有些仅针对男性。 TTP 的研究人员表示，有一个视频广告使用了儿童坐在地板上的缩略图，上面叠加了文字：“通过 Generation AI 实现深层幻想 [原文如此]。还有更多内容未被展示，请发挥你的想象力。”研究人员称，当点击该广告时，会播放涉及成人性行为的视频片段，然后将缩略图中儿童的脸合成到性行为画面中。 研究人员称，另一个被反复投放的广告显示了一个年轻女孩向后躺、双腿张开、处于性姿势的图片，图上方有文字：“我可以给你看更多。” 研究人员发现这些广告时，大部分并未主动展示给用户，但它们在 Meta 的广告资料库中持续可见数月，显然未被察觉。尽管根据 Meta 的数据，许多广告只“触达”了少数账户，但至少有一个广告在欧洲触达了 2,563 个账户——包括法国、德国、爱尔兰、意大利、荷兰、西班牙、瑞典和英国。Meta 的广告资料库数据库不包含美国或所有国家的广告效果详情，因此总体触达人数可能更高。 Paul 表示，TTP 是在上周首次发现这些广告的，当时其研究人员在发布了一份关于中国广告合作伙伴 (https://www.techtransparencyproject.org/articles/metas-chinese-partner-behind-deluge-of-nudify-ads) 发布此类广告的报告后，继续调查 Meta 上的“去衣”应用广告。Paul 称，该组织立即将发现报告给了国家失踪与受剥削儿童中心（NCMEC）的 CyberTipline，该平台允许人们举报在线儿童性虐待材料。NCMEC 的一位发言人表示，他们不对收到的报告发表评论。 在 WIRED 联系 Meta 后，该公司从其广告库中移除了这些广告。“性剥削是可怕的，我们正在积极努力将其排除在我们的平台之外，”Meta 的一位发言人表示。“这些广告中的大多数触达范围极小，许多在 WIRED 分享之前已被禁用。这些广告中有许多还早于我们最近推出的新 AI 技术，该技术旨在上传时更好地检测和阻止违规广告——我们正在不断改进这些系统。从去年移除超过 3600 万条儿童性剥削内容，到对‘去衣’应用开发者采取法律行动，我们将继续不懈地打击这种虐待行为。” 正如该公司所暗示的那样，一些违规广告绕过了 Meta 的新 AI 技术。最初，TTP 研究人员发现了大约两打显示虐待内容的广告。然而，在发布前几小时，研究人员又发现了约 30 个。这些广告中有许多是在 WIRED 首次就此事询问 Meta 之后发布的，研究人员发现时，多个广告仍在投放并展示给账户。 Paul 表示，这批广告中包含了一些研究人员所见过的性质最恶劣的案例。研究人员称，其中一个视频广告的缩略图显示一个女孩似乎在涂唇彩，但视频开始播放时，画面变成了该儿童进行性行为。 Meta 的政策规定，所有广告在发布前都会经过审查 (https://transparency.meta.com/en-gb/policies/ad-standards/?source=https%3A%2F%2Fwww.facebook.com%2Fpolicies_center%2Fads)，系统“主要”使用“自动化工具”对照其政策进行检查。该公司的广告标准明确规定 (https://transparency.meta.com/policies/ad-standards/objectionable-content/child-sexual-exploitation-abuse-nudity/) 不允许出现儿童性行为及剥削材料，并表示一旦公司知晓，会向 NCMEC 报告。此外，Meta 的广告政策规定，广告不得包含任何“描绘裸露、性活动、以露骨或性暗示姿势描绘人物的图像，或性暗示活动”。 Meta 的广告库现在显示，TTP 研究人员发现的这些广告因违反公司政策而被移除，显示的消息称它们违反了关于“儿童性剥削、虐待和裸露”以及“成人裸露和性活动”的规定。 7 月初，BBC 的一项调查 (https://www.bbc.com/news/articles/cvgm4e0316zo) 发现，Instagram 在印度投放了推广销售看似儿童性虐待材料的广告。据报道，这些广告使用了“rape video”等术语，并链接到 Telegram 上可购买这些非法内容的频道。作为回应，Meta 发布了一份长篇声明，表示 (https://about.fb.com/news/2026/07/our-work-to-fight-child-exploitation-on-our-apps/) 其对儿童性剥削采取“零容忍”态度。 TTP 的 Paul 表示，在其研究人员看到的这批广告中，似乎有一些与 Meta 此前因违反政策而移除的广告完全相同。“如果 Meta 自己的系统能够识别相同的广告，却没有因这些相同广告包含 CSAM 材料而将其移除，这引发了一个严重的问题：Meta 到底有多认真地对待付费广告中的儿童剥削问题，”Paul 说，并补充道，在广告不再投放后，广告库内部没有任何可以举报可能违反 Meta 政策内容的途径。 Paul 说，这些广告似乎大多是由关注者为零或极少数的 Meta 账户发布的；在披露付费广告主的地方，这些广告主都与中国公司有关。在一个案例中——即展示女孩斜躺的广告——TTP 研究人员称，Meta 的数据显示广告主是一家名为 Meet Social 的中国公司。该公司曾一度是 Meta 的广告经销商之一 (https://www.metaforbusiness.cn/resellers)，负责处理中国的广告业务，而 Meta 的社交媒体平台在中国被屏蔽。根据 2019 年《纽约时报》的一篇报道 (https://www.nytimes.com/2019/02/07/technology/facebook-china-internet.html?eafs_enabled=false)，该公司每天在 Facebook 上发布数千条广告，并预计销售额超过 10 亿美元。 Meet Social 未回应 WIRED 的置评请求。 TTP 研究人员发现的一些 Meta 广告链接到了一个名为 MaskAI 的应用，该应用出现在苹果 App Store 中。根据 WIRED 对该应用的审查，这款应用与中国一家软件开发商有关，在下载前不显示任何裸体内容。然而，一旦打开，它完全包含 AI 生成的色情内容，并具有允许用户上传图片并将人脸换到性情境中的功能。 在 WIRED 联系苹果后，一位苹果发言人表示，该公司已因 MaskAI 违反其禁止“脱衣”应用的政策而将其从 App Store 下架，并且该公司“一直严格禁止设计用于生成、分发或消费色情内容的应用”。（与 MaskAI 相关的一个邮箱地址未回应置评请求）。其他广告则链接到不同的应用或网站。 大约自 2020 年 (https://www.wired.com/story/a-deepfake-porn-bot-is-being-used-to-abuse-thousands-of-women/) 起，随着机器学习和随后的生成式 AI 技术的进步，大量危险的 AI“去衣”和“脱衣”服务在互联网上出现——为创建者带来了数百万美元的收入 (https://www.wired.com/story/ai-nudify-websites-are-raking-in-millions-of-dollars/)，并对无数女性造成了难以估量的伤害。它们也被用于制作 AI 生成的儿童性虐待材料，这在世界各地的国家都是非法的。 在 WIRED 首次就 TTP 的发现联系 Meta 后，该公司邀请了两个在线安全组织为这篇文章向 WIRED 提供评论。Tech Coalition（一个与科技公司合作应对在线虐待问题的组织）即将离任的首席执行官 Sean Litton 在一份声明中表示，Meta 已向该组织的 Lantern 服务分享了“数千个违规 URL”，该服务用于在公司之间共享有关虐待内容的信息。英国 Revenge Porn Helpline（致力于打击成年人非自愿图像问题的机构）的发言人也回应了一份声明，赞扬了 Meta 与 StopNCII.org 的合作及其在打击非自愿私密图像方面的一些努力。“我们已经明确表示，‘去衣’应用构成了一个真正具有对抗性的问题，不仅因为其背后的人，还因为这个生态系统在任何一个执法节点周围适应的速度有多快，”Revenge Porn Helpline 表示。 数字欺骗出版物 Indicator (https://indicator.media/p/meta-is-still-running-thousands-of-ads-for-ai-nudifiers) 的联合创始人、前 Google 信任与安全工作者 Alexios Mantzarlis 表示，近年来他在 Meta 的平台上发现并举报了超过 25,000 个 AI“去衣”工具广告。该公司此前曾表示，已移除超过 344,000 个“去衣”工具广告，并对一家与一系列“去衣”平台有关的香港公司采取了法律行动 (https://about.fb.com/news/2025/06/taking-action-against-nudify-apps/) (https://indicator.media/p/meta-lawsuit-ai-nudifier-crush-ai)。（WIRED 此前曾与 Indicator 合作报道过“去衣”技术如何被用于全球多所学校的儿童身上 (https://www.wired.com/story/deepfake-nudify-schools-global-crisis/)。） Mantzarlis 告诉 WIRED：“另一方的参与者显然能力很强，能够创建新的广告主账户和新的域名，从而继续运作，利用与诈骗网络相同的技术。不幸的是，这个基于图像的性虐待行业已经从一种新奇事物变成了我们在线生态系统中永久存在的部分，原因就在于各平台在执行层面的畏手畏脚。”