Meta未能拦截数百条AI生成的儿童虐待广告，其中部分含有真实儿童图片

# Meta未能拦截数百条AI儿童虐待广告，其中部分含有真实儿童图片 来源：https://www.wired.com/story/meta-failed-to-catch-hundreds-of-ai-child-abuse-ads-some-included-images-of-real-kids/ *编辑注：本文包含描述儿童性虐待图像的内容，建议读者谨慎阅读。* 上月初，在《连线》杂志的曝光后，Meta删除了在Facebook、Instagram和Threads上发布的约50条直接包含儿童性虐待材料（CSAM）的广告（https://www.wired.com/story/meta-ran-ads-that-contained-ai-generated-child-sexual-abuse-imagery/）。当时该公司表示（https://www.wired.com/story/meta-ran-ads-that-contained-ai-generated-child-sexual-abuse-imagery/），这些虐待性广告大多是在其推出旨在“更有效地检测和拦截”有害广告的新一代AI工具之前发布的。然而，该AI系统似乎并未完全发挥作用。 研究人员称，近几周他们非但没有发现这类广告数量减少，反而又发现了数百条含有儿童露骨性场景的恶劣广告——其中一些甚至与Meta此前删除的广告内容完全相同。根据非营利组织Tech Transparency Project的研究人员向《连线》杂志透露的调查结果（https://www.techtransparencyproject.org/articles/meta-ran-hundreds-of-paid-ads-with-child-sexual-abuse-imagery），自8月初以来，Meta的社交平台又出现了250多条含有CSAM的广告。与TTP最初发现的53条广告（https://www.wired.com/story/meta-ran-ads-that-contained-ai-generated-child-sexual-abuse-imagery/）不同，他们在新发现的广告中发现了真实儿童的图片。 这些广告包括涉及欧洲某王室成员的性内容，还将官方发布的照片篡改成展示“露骨性行为”的视频。为保护受害者，研究人员并未透露该王室的身份，并表示已与该国的相关官员取得联系。《连线》杂志已确认，这些图片来自该王室的官方网站。 “我们这里说的可不是普通的AI生成的儿童性虐待材料，”TTP的负责人Katie Paul表示。研究人员指出，有些图片似乎是在被用于广告之前就从网络上获取的。“这不仅会造成巨大危害，而Meta却还能从中获利。” 总体而言，研究人员发现，自去年底以来，Meta已经发布了350多条此类虐待性视频广告，其中许多广告都链接到了由中国开发者开发的、用于进行“裸化处理”（https://www.wired.com/story/deepfake-nudify-technology-is-getting-darker-and-more-dangerous/）的有害应用。每次发现这类广告时，研究人员都会立即向美国儿童安全监管机构报告，同时在广告仍在向用户展示时通过Meta的举报工具进行上报。研究人员还将详细调查结果分享给了《连线》杂志，该杂志随后独立发现了Meta平台上数百条类似的、含有成人露骨内容的“裸化处理”广告。 虽然这些儿童虐待广告因违反Meta关于儿童剥削（https://transparency.meta.com/policies/ad-standards/objectionable-content/child-sexual-exploitation-abuse-nudity/）、成人剥削（https://transparency.meta.com/policies/ad-standards/objectionable-content/adult-sexual-exploitation/）以及裸露内容（https://transparency.meta.com/policies/ad-standards/objectionable-content/adult-nudity-and-sexual-activity/）的政策而被删除，但所有这些广告最初都是被发布的，尽管Meta的政策声称（https://transparency.meta.com/en-gb/policies/ad-standards/?source=https%3A%2F%2Fwww.facebook.com%2Fpolicies_center%2Fads）它会审核平台上发布的所有广告。TTP的研究人员称，在某些情况下，Meta需要一周时间才能使用其工具审核他们报告的含有CSAM的在线广告。据《连线》杂志看到的截图显示，在此期间，这些广告的浏览量又增加了数百次。 TTP表示，当一些含有儿童性虐待内容的广告被删除时，最初并没有标注这些广告违反了Meta的儿童性虐待政策；这些说明是在《连线》杂志向Meta询问这一差异后才添加的。 自去年底以来，在Facebook、Instagram、Messenger、Threads以及Meta的更广泛广告网络中发布的这些视频广告都遵循类似的模式。许多广告都使用青少年女孩的普通照片——研究人员称只有一条广告使用了男孩的照片——并在照片上叠加文字，声称“这不仅仅是一张照片”，并且对如何使用这张图片“没有任何限制”。当这些时长几秒的广告开始播放时，这些儿童的面部会被替换成露骨的性爱视频，通常还会展示他们正在进行性行为。点击这些广告后，用户会被引导至苹果和谷歌的应用商店，下载AI换脸或视频处理应用。许多广告上都写着“这就是普通人实际使用的AI技术”。 Paul表示，研究人员已经找到了广告中使用的四名未成年人的真实身份，其中三人来自美国。“有好几张照片来自同一位在Meta某个平台上拥有社交账号的青少年网红，”Paul说。第二起案例涉及另一位拥有公开账号的青少年网红。关于第三起案例，Paul称“其中一人是真实的模特，是库存照片中的角色”，“那些库存照片网站甚至将她标注为青少年”。最后一起案例则是那位欧洲王室成员。 研究人员将他们发现的所有广告都报告给了美国国家失踪与受剥削儿童中心（NCMEC）的CyberTipline平台，该平台允许人们举报在线儿童性虐待材料。他们还表示正在研究如何适当地将这些发现告知相关受害者。 根据Meta广告库中的数据，这些广告总共展示给了欧盟各国的29,000多个账户，以及英国的7,000多个账户。该广告库展示了实时和已归档的广告，包括那些不再向用户展示的有害广告。实际上，这些广告被看到的用户数量可能远超Meta广告库显示的数字——其中250多条广告出现在美国，120条出现在澳大利亚，80条出现在印度，而Meta并未在这些地区公布详细的广告表现数据。 Meta的发言人Tracy Clayton表示：“我们绝不容忍任何形式的裸化处理应用，也绝不容忍任何形式的儿童剥削，无论是真实的还是AI生成的。”该公司此前已经删除了数十万条违反其裸化处理政策的广告（https://about.fb.com/news/2025/06/taking-action-against-nudify-apps/）。该公司声称，研究人员发现的“许多”广告已经被删除，而且大多数广告的展示次数都不到200次，该公司从这些广告中获得的收入也“不到5,000美元”。 在给《连线》杂志的邮件中，Meta表示会将儿童剥削内容报告给NCMEC，并且也在向该机构报告这些广告。Meta试图淡化这些发现，称那些AI生成的视频中出现的都是成年人，而未成年人的画面都很短暂或模糊，这增加了识别这些内容的难度。Clayton表示：“从事这类活动的犯罪分子知道我们建立了强大的防御体系，包括能够拦截违规广告的系统，以及持续监控机制，以防我们最初遗漏某些内容。” 就在Meta因其社交平台涉嫌危害儿童而需支付高达167亿美元的赔偿金以了结相关诉讼（https://www.wired.com/story/meta-will-pay-up-to-dollar167-billion-to-settle-its-social-media-harms-case-and-thats-just-for-starters/）之际，TTP的研究人员又发现了数百条含有儿童虐待材料的广告。Meta还在对新墨西哥州法院的一项判决提出上诉（https://www.bbc.co.uk/news/articles/cd7lz3wr2rlo），如果该判决生效，Meta将不得不改进其CSAM报告流程（https://www.kob.com/wp-content/uploads/2026/08/D-101-CV-2023-02838-Final-FOFCOL-and-Judgment-of-the-Court.pdf），并在该州引入人工审核机制。 在《连线》杂志的报道之后，多位立法者和监管机构表示正在调查这些广告。“令人失望的是，尽管我们已经向Meta反映了这些问题，他们仍然继续投放含有儿童性虐待材料和非自愿亲密图像的广告，”弗吉尼亚州参议员马克·华纳表示。在《连线》杂志首次报道此事后，华纳曾致信Meta首席执行官马克·扎克伯格（https://www.warner.senate.gov/newsroom/press-releases/warner-presses-meta-ceo-on-ads-featuring-child-sexual-abuse-material-and-non-consensual-intimate-images/）。据华纳的办公室称，这封邮件至今尚未收到回复。“Meta必须遵守自身的广告标准，响应我们的呼吁，彻底杜绝这些非法且不当的广告，”他说道。（Meta告知《连线》杂志，他们将会回复这封邮件。） 密歇根州总检察长的发言人表示，他们的办公室“已经了解到有关Meta广告中出现AI生成的儿童性虐待材料的报道。这种情况极其令人担忧，我们正在积极调查此事。”佛罗里达州总检察长詹姆斯·乌特迈尔也在X平台上发文（https://x.com/agjamesuthmeier/status/2094479671123431613?s=46），称其办公室也在“进行调查”。 与此同时，澳大利亚eSafety互联网监管机构的发言人表示，他们对这些报道“极为担忧”，正在评估Meta是否遵守其相关规定。该机构称已要求该公司提供“有关此事的高层信息”。 ## 缺乏有效防护措施 在过去六年中，数十款AI裸化处理或“脱衣”应用（https://www.wired.com/story/deepfake-nudify-technology-is-getting-darker-and-more-dangerous/）及网站在网络上大量出现，被用于伤害无数女性和女孩。随着这个危险的非法非自愿亲密图像生态系统不断扩张，据估计其背后的操纵者每年能赚取数百万美元（https://www.wired.com/story/ai-nudify-websites-are-raking-in-millions-of-dollars/），儿童保护组织警告称，这项技术正越来越多地被用于制作CSAM。 总部位于英国、致力于从网络上清除儿童虐待内容的非营利组织Internet Watch Foundation的传播主管Emma Hardy表示：“AI应用使得制作逼真的儿童性虐待犯罪图像变得极其容易，这带来了新的风险——日常拍摄的儿童照片可能被篡改成性内容。”她强调，“平台和公司必须确保这些应用无法在任何地方进行宣传和传播。” 正如《连线》杂志此前报道的那样，TTP研究人员发现的一些广告是由中国境内的公司发布的，这些公司在该国充当广告“转售商”，因为Meta的平台在中国是被禁止的。据TTP称，这些广告所链接的许多应用似乎也与中国有关联。（Meta此前曾针对一家与某些裸化处理平台有关的香港公司提起了法律诉讼（https://indicator.media/p/meta-lawsuit-ai-nudifier-crush-ai）。） 这些广告将用户引导至谷歌Play商店和苹果App Store上的近50款应用。在350条广告中，研究人员称约有300条引导用户点击AI图像或视频生成类应用，而这些应用大多与中国开发者有关。在《连线》杂志开始报道此事时，其中一些应用已经被删除。 在那些能够生成成人露骨图像的应用中，苹果App Store上有8款设计相同的应用，其中多个应用的开发者信息与中国相关。打开这些应用后，会显示AI生成的露骨内容，还包括一系列性爱场景的菜单，其中有一个名为“持刀威胁”的场景，画面中有人用刀抵住女性的喉咙。《连线》杂志还发现了另外7款设计相同、内容露骨且开发者联系方式相同的应用。 苹果的发言人Adam Dema表示：“App Store本应是用户安全可信的场所，我们对那些故意试图规避我们审核流程的开发者零容忍。”他补充说，“报告中提到的开发者最初提交的申请是符合App审核指南的，但后来却加入了违反我们规则的裸化处理功能。”该公司称，研究中提到的20款应用中有17款已经被从App Store中删除，他们对剩下的3款应用也采取了措施，同时还删除了《连线》杂志发现的7款应用。 谷歌的发言人Dan Jackson表示，该公司不允许包含性内容或裸化处理功能的应用（https://android-developers.googleblog.com/2026/08/ensuring-safety-genai-preventing-non-consensual-intimate-content.html）。“我们会持续采取主动措施，检测并删除含有有害内容的应用，”他们说，并补充称已经删除了报告中提到的所有应用。“一旦有人向我们报告违规行为，我们就会立即展开调查并采取迅速行动，对于这些应用，我们已经暂停了数百款违规应用的运行，并限制了应用商店中与‘裸化处理’相关的搜索词。” 曾曾在Meta工作、负责调查其平台上非自愿图像和虐待行为的David Pham表示：“每年，制作裸化处理应用的中国开发者比例都在上升。”他在Meta工作期间就观察到了与研究人员发现的类似广告，而且那些上传内容的人总是试图绕过安全系统。 Pham说：“每当平台或调查人员开发出新的检测模型或新的执法手段时，他们往往在一天甚至五天内就会找到新的方法来规避检测。”那些上传广告的人会更换使用的域名，隐藏发布者身份，还会采取模糊图片或微调图片等手段来避免被检测到。不过，去年离开Meta的Pham表示，Meta拥有足够的资金和资源来应对这类上传行为。“我希望能生活在一个不会收到直接发送到手机上的CSAM或NCII内容的世界里，”他说。 Meta目前针对含有CSAM和NCII内容的广告的防护措施似乎还有待加强。根据Indicator Media的最新报告（https://indicator.media/p/meta-ran-at-least-11-000-ads-for-ai-nudifiers-this-year-many-from-easily-detectable-repeat-offenders），自今年2月以来，Meta的平台上已经出现了11,000多条裸化处理广告，其中许多据称是由“惯犯”发布的。《连线》杂志的分析也发现了数百条含有露骨内容的广告，这些广告的语言与TTP研究人员发现的广告类似。（Meta称，恶意广告商会使用对抗性策略不断试图规避其检测系统，而该公司已经将《连线》杂志指出的广告中的相关语言“纳入”了其内容审核系统中。） 根据TTP的研究，有一则广告在传播到欧洲的4个账户后就被报告给了Meta，该广告中出现了研究人员已查明真实身份的其中一名青少年。然而，几天后这则广告被删除时，已经被超过330名用户查看过。“这根本不应该是由一个小型非营利研究机构偶然发现，然后还要去调查和报告的问题，”TTP的Paul说。“我们谈论的是全球资源最丰富——无论是在技术还是资金方面——的公司之一。”