旧金山下令Meta停止'允许'AI儿童虐待广告

# 旧金山市要求Meta停止“允许”AI生成的儿童虐待广告 来源：https://www.wired.com/story/san-francisco-orders-meta-to-stop-allowing-ai-child-abuse-ads/ 旧金山市检察官已向Meta（https://www.wired.com/tag/meta/）发出停止令函，要求该公司停止“允许”包含AI生成的儿童性虐待内容的付费广告，并要求其解释此类广告如何在其平台上反复出现。 上周二，《连线》杂志报道（https://www.wired.com/story/meta-failed-to-catch-hundreds-of-ai-child-abuse-ads-some-included-images-of-real-kids/），Meta在近几个月已投放超过350条广告，这些广告将未成年人的静态图像——其中部分经证实为真实个人，包括一名欧洲王室成员（https://www.wired.com/story/meta-failed-to-catch-hundreds-of-ai-child-abuse-ads-some-included-images-of-real-kids/）——转化为可描绘其进行性行为的短视频片段。点击这些广告会引导用户下载AI图像和视频生成应用，部分应用可用于对人物进行数字脱衣或制作其他非自愿私密图像。 这些由科技透明度项目（Tech Transparency Project，简称TTP）研究人员发现的广告（https://www.techtransparencyproject.org/articles/meta-ran-hundreds-of-paid-ads-with-child-sexual-abuse-imagery），包含部分多次上传的相同广告，总计触及欧盟国家超过2.9万个账户。这些在Facebook、Instagram和Threads上投放的广告也针对美国、澳大利亚和印度的账户。《连线》杂志于八月初首次报道了其中一批53条广告（https://www.wired.com/story/meta-ran-ads-that-contained-ai-generated-child-sexual-abuse-imagery/），但在该初始报告发布后，Meta平台上仍有超过250条相关广告继续投放。 旧金山市检察官戴维·邱在给《连线》杂志的声明中表示：“Meta未能解决已知的AI生成儿童色情广告问题，同时还从中牟利。这些广告令人深感不安，对真实儿童造成伤害。Meta声称对儿童剥削零容忍，但这些问题的规模和持续性表明，其现有措施严重不足。这是不可接受的，Meta必须做出改进。” 邱在发送给Meta律师的四页函件（https://media.api.sf.gov/documents/Meta_AI-Gen_CSAM_Ads_Ltr_from_D_Chiu_2026-09-09_Signed.pdf）中写道：“任何公司——尤其是那些声称所有广告在分发前均经过审查批准，并就此收取费用的公司——都不应允许其广告系统被以此种方式使用。” 该函件就Meta的广告政策和安全系统运作方式提出了一系列问题，并要求该公司的法律、儿童安全及广告部门人员与市政办公室进行“及时讨论”。邱写道：“这些发现尤其令人不安，因为它们似乎并非孤立事件，而是Meta在首次被告知问题后未能纠正的系统性漏洞。” Meta表示“无迹象表明”这些广告在旧金山市展示，因此它们“不在市检察官的管辖范围内”。虽然Meta的广告档案库（https://www.facebook.com/ads/library/?active_status=active&ad_type=political_and_issue_ads&country=GB&is_targeted_country=false&media_type=all&sort_data%5Bmode%5D=total_impressions&sort_data%5Bdirection%5D=desc）包含部分美国投放的广告数据，但并未细分广告在美国境内的具体投放地区。 针对Meta的管辖权主张，市检察官办公室发言人亚历克斯·巴雷特-希勒对《连线》杂志表示，由于“旧金山消费者可通过Meta在线空间访问违法广告”，此事属于旧金山市管辖范畴。 巴雷特-希利表示：“我们对Meta的回应感到震惊。Meta似乎更关心旧金山市是否有权置评，而非自身是否涉嫌剥削儿童。Meta在此问题上面临更大挑战，而非质疑我们的管辖权。” Meta此前告诉《连线》杂志，科技透明度项目研究人员发现的许多广告在被举报前已移除——目前所有违规广告均已删除——且大多数广告的“账户展示次数不足200次”。Meta发言人此前表示：“我们绝不容忍脱衣应用或任何形式的儿童剥削，无论是真实还是AI生成。”该公司称，研究人员发现的300多条广告的“总广告支出”“低于5000美元”。 这封函件指出市检察官办公室已审查了科技透明度项目研究人员发现的多数广告，要求Meta停止其平台上此类广告的投放，并解释这些广告如何规避其审核系统，以及如何将广告上报至国家失踪与受剥削儿童中心（NCMEC，https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata），同时要求该公司详细说明如何处理涉案广告主及重复违规者。 函件进一步指出，这些发现表明该公司在检测广告中潜在儿童性虐待内容方面存在“更广泛的系统性问题”，并由此引发“重大法律疑问”。邱在信中写道：“本办公室的目标不仅是查明过去的失误，更是确保Meta建立相应机制，防止儿童通过其收费投放的广告遭受性剥削，并确保Meta在意识到明显儿童性剥削行为时切实履行相关法律义务。” 科技透明度项目研究人员的发现指出，在某些情况下，Meta对机构举报的违规广告超过一周未作回应，在此期间这些广告又被数百人浏览。根据科技透明度项目及《连线》杂志对Meta广告档案库的审查，部分广告被移除时，最初并未标注为包含儿童性虐待内容。邱的函件表示：“此处记录的问题规模、持续性及性质表明，Meta零散的下架行动严重不足”，并要求Meta在28天内作出回应。 Meta的社区准则和广告政策禁止儿童性剥削、虐待或裸露（https://transparency.meta.com/policies/ad-standards/objectionable-content/child-sexual-exploitation-abuse-nudity/），亦禁止成人剥削（https://transparency.meta.com/policies/ad-standards/objectionable-content/adult-sexual-exploitation/）或成人裸露（https://transparency.meta.com/policies/ad-standards/objectionable-content/adult-nudity-and-sexual-activity/）。该公司同样禁止推广脱衣应用。Meta的广告标准声明所有广告均会通过自动化及人工审核（https://transparency.meta.com/policies/ad-standards/）进行政策合规性检查。该公司此前已移除数十万条脱衣应用广告。 尽管Meta已对脱衣应用采取行动，包括起诉（https://about.fb.com/news/2025/06/taking-action-against-nudify-apps/）一家与某脱衣平台相关的香港公司，并与其他科技公司合作，研究人员仍持续发现数千条（https://indicator.media/p/meta-ran-at-least-11-000-ads-for-ai-nudifiers-this-year-many-from-easily-detectable-repeat-offenders）引导用户下载有害应用、包含性行为和裸露内容的广告。在《连线》杂志对科技透明度项目发现的报道过程中，我们确认Meta平台上仍有数百条“脱衣”广告（https://www.wired.com/story/meta-failed-to-catch-hundreds-of-ai-child-abuse-ads-some-included-images-of-real-kids/）正在投放。 科技透明度项目主任凯蒂·保罗表示，Meta“未有效”解决此问题，截至周三，包含儿童性虐待内容的广告仍出现在其平台上。保罗称：“Meta声称对儿童性虐待材料持强硬立场，但自科技透明度项目9月8日报告发布以来，仍有全新广告投放，且涉及部分已提交给Meta的相同儿童形象。”该组织已向Meta和国家失踪与受剥削儿童中心举报这些广告，并指出部分已被移除。Meta未立即回应《连线》杂志关于新广告仍持续出现的质询。 保罗补充道：“事实清晰——Meta并未有效解决此问题。” *更新于美国东部时间2026年9月9日下午6点：补充了旧金山市检察官办公室的额外评论。*