美国危险混乱的深度伪造打击行动已开始

# 美国危险而混乱的深度伪造打击行动已然来临 来源: https://www.theverge.com/policy/933518/take-it-down-act-notice-removal-social-media-deepfake 一项要求社交网络迅速删除性深度伪造及其他非自愿影像的法律现已全面生效。但专家警告称，该政策对受害者帮助甚微——最坏情况下，甚至可能助长网络审查。 去年五月，唐纳德·特朗普总统签署了《Take It Down Act》，该法律针对非自愿亲密影像（NCII）。该法立即将散布NCII（无论是真实还是AI生成的素材）定为刑事犯罪——许多州（https://www.findlaw.com/criminal/criminal-charges/revenge-porn-laws-by-state.html）至少已部分实施此类规定。但以其命名的“下线条款”更为全面。该条款于法律通过一年后——即2026年5月19日——生效，要求在线平台在48小时内删除NCII，否则面临罚款。 联邦贸易委员会（FTC）主席Andrew Ferguson在 deadline 前向十多家科技公司（https://www.ftc.gov/news-events/news/press-releases/2026/05/ftc-chairman-ferguson-advises-companies-comply-take-it-down-act）发送了信件，据FTC称名单包括Amazon、Alphabet、Apple、Automattic、Bumble、Discord、Match Group、Meta、Microsoft、Pinterest、Reddit、SmugMug、Snapchat、TikTok和X。信函要求这些平台为用户提供简易的下线请求流程，并在48小时内删除违规内容，以及任何“已知的相同副本”。负责执行该法律的FTC提醒各公司，违规可能导致每次违规超过53,000美元的民事罚款。 包括Meta、Microsoft、Google、TikTok和Snap在内的主要平台都支持这项法案（https://www.commerce.senate.gov/wp-content/uploads/media/doc/Statements%20of%20Support%20-%20TAKE%20IT%20DOWN%20Act-%20FINAL%20(1).pdf），并表示有信心遵守。Snap在去年的一篇博客文章（https://values.snap.com/news/take-it-down-act）中表示，该法案“与我们持续的努力高度一致且互为补充”。发言人Monique Bellamy告诉 *The Verge*，公司正在继续“演进”安全系统，“包括投资于工具和技术以主动检测并处理不想要的裸照及类似影像”。 Meta妇女安全主管Cindy Southworth表示，公司“长期以来一直打击我们平台上的亲密影像滥用”，包括删除相关内容、帮助开发检测工具，以及起诉违反其规则的AI“脱衣”应用开发者（https://thehill.com/policy/technology/5346548-meta-sues-developer-of-nudify-app-crushai/）。Southworth补充说，公司的工具经过训练，不接受脱衣请求。“我们继续支持《Take It Down Act》，这是解决整个互联网上此类滥用的重要一步，而且我们已经合规好几个月了。”TikTok美国发言人Mahsau Cullinane表示，公司对NCII采取零容忍政策，并指出其与NCMEC和StopNCII.org的合作关系；公司目前提供一份表格（https://report-sexual-exploitation-abuse-tiktok-us.zendesk.com/hc/en-us/requests/new）和应用内举报工具。 即使是X——这家在色情化AI影像方面有非常不光彩历史的公司——也支持了该法案。2024年，该公司臭名昭著地让泰勒·斯威夫特的性暴露AI深度伪造（https://www.theverge.com/2024/1/25/24050334/x-twitter-taylor-swift-ai-fake-images-trending）扩散开来，几周后又出现了用户认为是说唱歌手Drake（https://www.theverge.com/2024/2/7/24064992/x-app-store-drake-nude-moderation）从事性行为的视频。最近，用户要求其集成的AI聊天机器人Grok对用户进行“脱衣”，往往未经用户同意。*纽约时报*的一项分析（https://www.nytimes.com/2026/01/22/technology/grok-x-ai-elon-musk-deepfakes.html?partner=slack&smid=sl-share）发现，仅九天之内，Grok就分享了“至少180万张（https://www.theverge.com/news/865542/in-nine-days-grok-shared-1-8-million-sexualized-images-of-women-on-x）女性的色情化影像”，尽管某些估计数字更高。 总统在其2025年国情咨文（https://www.pbs.org/newshour/politics/read-the-full-text-of-trumps-speech-to-a-joint-session-of-congress）中戏谑道：“我要把那项法案留给自己用” 然而，该法的下线条款让言论自由倡导者和网络虐待反对者都感到震惊——包括那些大体上支持其刑事定罪部分的人。即使善意执行，下线法律也会鼓励公司过度审核非违规内容以降低风险。在特朗普政府领导下，《Take It Down Act》也可能成为对付政治敌人的武器（https://www.theverge.com/decoder-podcast-with-nilay-patel/627868/take-it-down-act-weapon-trump-ncii-deepfakes），同时让亲特朗普的平台获得豁免。总统在其2025年国情咨文（https://www.pbs.org/newshour/politics/read-the-full-text-of-trumps-speech-to-a-joint-session-of-congress）中戏谑道：“我要把那项法案留给我自己用”，因为“没有人比我在网上受到更坏的对待”。X当时的CEO Linda Yaccarino出席了签署仪式（https://x.com/lindayaX/status/1924584857054687696），特朗普——其政府当时雇用了X的老板埃隆·马斯克——称赞她“干得很棒”。 特朗普的言论“与事实相反”，网络民权倡议组织（Cyber Civil Rights Initiative）主席Mary Anne Franks表示，该组织倡导打击基于影像的性虐待政策。特朗普的国情咨文评论让她对法律会被公平执行感到怀疑。“这是一句奇怪的话，而且是从最高层发出的公告，表明这项法律不会被有原则地使用，而是用来解决个人恩怨，”她说。 Franks对主要科技平台为何支持这项法律感到“怀疑”——这些平台通常抗议新法规会加重言论自由负担。“我对此的担忧是——我希望我是错的——这些公司不生气的原因是他们知道这项法律实际上永远不会用来对付他们，”她说。仅此一点就可能使该法律对NCII受害者而言不过是虚假的希望。 “这是从最高层发出的公告，表明这项法律不会被有原则地使用” 但Franks也担心这项法律可能被用来对付那些政府视为眼中钉的平台，比如Wikipedia（https://www.theverge.com/news/656720/ed-martin-dc-attorney-wikipedia-nonprofit-threat）。“我认为最糟糕的情况是，它对那些作恶最甚的公司来说成了纸老虎，但变成了一种惩罚真正不受欢迎的平台并审查言论的方式，”Franks说。这些言论可能包括LGBTQ+的表达，尤其是当针对跨性别青少年的性别肯定护理（https://www.ftc.gov/news-events/events/2025/07/dangers-gender-affirming-care-minors）已经被FTC作为目标时。“我非常担心这会被用作借口，进一步打击要么是双方自愿的性暴露材料，要么是专门针对正在探索性别认同或性取向的儿童的教育材料，”Franks说。即使法院裁定这不属于法律范畴，它也会向平台发出关于如何审核的明确信号。 其他组织，包括电子前哨基金会（EFF）（https://www.eff.org/deeplinks/2025/02/take-it-down-act-flawed-attempt-protect-victims-will-lead-censorship）、卡托研究所（https://www.cato.org/blog/take-it-down-act-shows-noble-intentions-can-make-bad-tech-policy）和公共知识（https://publicknowledge.org/public-knowledge-cautions-take-it-down-act-could-jeopardize-privacy-free-speech/），都警告说通知与删除条款可能对言论产生重大后果，EFF称其为“越权与审查”的温床。 与此同时，该法律甚至可能不涵盖（https://www.theverge.com/ai-artificial-intelligence/855832/grok-undressing-children-csam-law-x-elon-musk）那些看似明确的数字违规行为。例如，Grok的部分非自愿色情化影像可能不足以被视为“露骨色情”。尚不清楚像Grok这样的AI工具是否算作NCII的“创作者”，其所有者可能承担刑事责任；如果这些图像是私下生成的，也不一定清楚它们是否受下线条款约束。在该法生效的第一年，司法部表示（https://www.justice.gov/usao-sdoh/pr/columbus-man-pleads-guilty-cyberstalking-exes-creating-ai-generated-obscene-material?bm-verify=AAQAAAAN_____9-9OWtVekgqd6NDbGwoh66uy6NYDXtfPet_kl6Il7rxxv-J9Bsg_F_GDAeYijs8Ew-bpQQwpg7lpelqiMvN683iG2HohOeHSD1XvB7TjpkzpW-xdMnoTVy8au02P0UvzZqV22OAOaHFxYDgVXVgVIb9tKl33WZtlooaKf1YhnpkL8HSXICzeiBNiWmx0toDFesbQxyT02iR2P9VKGxn37ILpXx1_mzBTPyYD_7rYaOKuHTAz4DHCoBi2kL7b-tXWt-XYgK-c_XY3zHd0MaM2IKqM7Dl3z0JPproqd4lVvE-YvkMFn7jLJi5t06DeNY_e0jZVWKQE0I68ZEW--EJ7QVy72iF3eaVqHa74G5feOsq5KAXPkI）已使用《Take It Down Act》的刑事条款，对一名制作性暴露AI深度伪造以骚扰受害者的俄亥俄州男子定罪。下线条款的影响可能更直接——但问题在于，这些结果是否会让互联网更安全。 **关注本故事中的话题和作者**，即可在个性化首页信息流中查看更多类似内容，并接收邮件更新。 - Lauren Feiner