看到自己的身体被用于深度伪造色情内容的震惊

# 看到自己的躯体被用于深度伪造色情内容的震撼 来源：https://www.technologyreview.com/2026/05/14/1137161/ai-porn-nonconsensual-deepfakes-takedown-piracy-copyright 2023年，当珍妮弗在一家非营利组织获得研究工作后，她将自己的新职业照运行了一个面部识别程序。她想看看这项技术是否会搜出她十多年前（二十岁出头时）制作的那些色情视频。程序确实找到了其中一些内容，同时也发现了令她震惊、前所未见的东西：她的一段旧视频，但她的身体上却换成了别人的脸。 “一开始，我以为那只是另一个人，”珍妮弗说。为了保护隐私，她使用了化名。 但随后她认出了一个2013年左右拍摄的视频中特有的俗艳背景，她意识到：“有人用我做了一个深度伪造。” 诡异的是，面部识别技术还是识别出了她，因为图像中仍保留着珍妮弗的一些特征——她的颧骨、眉骨、下巴的形状。“感觉就像我戴着别人的脸当面具一样，”她说。 > “感觉就像我戴着别人的脸当面具一样。” 关于性化深度伪造的讨论——这属于非自愿私密影像（NCII）的范畴——通常聚焦于那些*面部*被用来做他们并未真正做过的事情，或者出现在并非他们自己的躯体上的人。这些人通常是知名名人，不过在过去几年里，有更多人（主要是女性(https://www.technologyreview.com/2021/02/12/1018222/deepfake-revenge-porn-coming-ban/)，有时也包括青少年(https://www.technologyreview.com/2023/12/01/1084164/deepfake-porn-scandal-pushing-us-lawmakers/)）成为目标，引发了恐慌、恐惧，甚至推动了立法。但这些讨论和社会应对通常并不关心在这些图像和视频中，这些面孔所依附的*躯体*是谁的。 正如现年37岁、在纽约市从事心理治疗师工作的珍妮弗所说：“从来没有人讨论过‘*这究竟是谁的身体*？’” 多年来，答案(https://www.technologyreview.com/2021/09/13/1035449/ai-deepfake-app-face-swaps-women-into-porn/)通常(https://www.technologyreview.com/2021/02/12/1018222/deepfake-revenge-porn-coming-ban/)是成人内容创作者。事实上，深度伪造早在2017年11月就获得了这个名称，当时一位Reddit用户名为“deepfakes”的人上传了视频，将斯嘉丽·约翰逊和盖尔·加朵等明星的脸粘贴到色情演员的身体上。专攻成人行业的律师科里·西尔弗斯坦表示，在深度伪造中，非自愿使用她们的身体“时常发生”。 但最近，随着生成式人工智能的改进，以及“脱衣”应用的激增(https://www.technologyreview.com/2022/12/12/1064751/the-viral-ai-avatar-app-lensa-undressed-me-without-my-consent/?truid=*%7CLINKID%7C*&utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)，这个问题变得远为复杂——并且可以说，对创作者未来的危险性也更大。 色情演员的身体不再一定直接取自性图像和视频，或者至少不是以可识别的方式。相反，它们不可避免地(https://www.technologyreview.com/2022/12/12/1064751/the-viral-ai-avatar-app-lensa-undressed-me-without-my-consent/)被用作(https://hai.stanford.edu/policy/addressing-ai-generated-child-sexual-abuse-material-opportunities-for-educational-policy)训练数据，告知新的AI生成身体的外观、运动和表现方式。这威胁着色情演员的生计和权利，因为他们的作品被用来训练AI裸体，而这些AI裸体反过来又可能夺走他们的生意。这还不算完：AI的进步使得人们能够在未经同意的情况下完全复制这些表演者的外貌，而这些AI模仿者可能会做一些表演者在现实生活中不会做的事情。这可能意味着他们的数字替身正在参与他们未曾同意的某些性行为，甚至对粉丝进行诈骗。 成人内容创作者本已因社会在很大程度上未能保护他们的安全与权利而被边缘化，而这些发展使他们处于更加脆弱的境地。珍妮弗在发现涉及自己身体的深度伪造后，在社交媒体上分享了心理影响：“我从未见过有人问过，这对于那个身体未经同意被使用的人来说是否也会造成创伤。答案是肯定的！”我采访的另外几位创作者分享了知道自己的身体被非自愿使用所带来的心理负担，以及担心其他人盗用他们的作品而导致经济受损的恐惧。西尔弗斯坦表示，他每天都会听到成人演员的抱怨，“他们担心自己的内容被AI利用，并且正在想办法保护它。” 一位研究针对女性暴力问题的法学教授称这些创作者为NCII深度伪造中的“被遗忘的受害者”。我采访的几个人担心，随着美国制定法律框架来打击在线非自愿性内容，成人演员只会面临进一步的伤害；对深度伪造的打击可能不仅不会帮助他们，反而会提供一种漏洞，使他们的内容和事业有可能被彻底从互联网上清除。 ### 深度伪造如何造成“具身伤害” 现在是色情演员兼成人内容平台XChatFans总裁的斯派克·艾恩斯在20世纪70年代的青春期时，“迷恋”着法拉·福塞特。尽管福塞特并未拍摄裸照，琼斯还是设法弄到了看起来像是她裸体的照片。“人们把脸剪下来贴在身体上，”艾恩斯说。“在AI出现之前，深度伪造已经流传了相当一段时间，只是没有那么泛滥而已。” 早期的公共互联网充斥着利用技术“窥见”名人裸体这一想法的网站。“人们只会用Microsoft Paint，”律师西尔弗斯坦说。这是一种将名人的脸与色情内容拼贴在一起的简单方法。 后来人们使用Adobe After Effects或FakeApp等软件，这些软件旨在交换(https://medium.com/@johnfakersnorth/fixing-fakeapp-cc04c1d4eb13)图像或视频中两个人的面孔。这些程序都不需要深厚的专业知识来修改内容，因此入门门槛很低。这一点，加上网上大量色情表演者的视频，使得到2010年代，使用真实身体的换脸深度伪造变得普遍。当在这十年的后期，涉及盖尔·加朵(https://www.vice.com/en/article/deepfake-videos-like-that-gal-gadot-porn-are-only-getting-more-convincing-and-more-dangerous/)和艾玛·沃特森(https://www.bbc.com/bbcthree/article/779c940c-c6c3-4d6b-9104-bef9459cc8bd)的深度伪造引发了某种更广泛的恐慌时，他们的面孔据称被分别换到了色情演员Pepper XO(https://www.wired.com/story/deepfake-porn-harms-adult-performers-too/)和Mary Moody(https://x.com/missmarymoody/status/2024708860905476400?s=46&t=IKyaznX8LG4sV4E1oHKdGg)的身体上。 但被使用的身体并不仅仅是她们这样的知名演员。珍妮弗说，她只是“一个非常不起眼的表演者”。“如果这事发生在我身上，我觉得任何拍过色情片的人都可能遇到。”西尔弗斯坦说，自从他2006年开业以来，“无数客户”曾联系他报告“*这是我的身体在某某某身上*。” 无论是面孔出现在NCII深度伪造中的人，还是身体被这样使用的人，都会感到严重的痛苦。专家称这种损害为“具身伤害”，Anne Craanen说，她在英国战略对话研究所研究基于性别的暴力，该组织分析极端主义内容、虚假信息和在线威胁。 这个术语反映了一个事实：即使内容存在于虚拟领域，它也可能引起生理效应，包括身体畸形恐惧症。换脸后的实体处在恐怖谷中，扭曲了自我认知。专家告诉我，许多人在发现自己的面孔出现在性深度伪造中后，感到失声；正如Craanen所说，他们可能会“自我审查”，并从面向公众的生活中退后。与虐待幸存者合作的律师艾莉森·马奥尼说，面孔出现在NCII中的人可能会经历抑郁、焦虑和自杀念头：“我有好几位客户告诉我，他们晚上睡不着觉，正在脱发。” > 独立创作者不仅仅“是在镜头前做爱”。有人扒窃他们的作品，“供自己娱乐或牟利，这真是他妈的糟透了。” 尽管对身体被使用的*人的影响讨论和研究较少，珍妮弗说，“知道自己成为他人虐待的一部分，这感觉真的非常糟糕。”她认为这类似于“一种新型的性暴力”。 不知道自己的身体在网上做什么所带来的不确定性可能非常令人不安。像珍妮弗一样，许多成人演员并不真正了解外面有什么。但一些忠实粉丝非常熟悉这些演员的身体——通常能认出纹身、伤疤或胎记——并且“很快会引起成人表演者的注意，”西尔弗斯坦说。或者表演者会偶然发现这些内容；例如，大约20年前，第一个告诉西尔弗斯坦她的身体被用于深度伪造的客户，恰好是在网上搜索妮可·基德曼时，发现其中一个结果显示基德曼的脸贴在她的色情片上。“她显然崩溃了，因为他们拿走了她的身体，”他说，“并且还在用它来牟利。” 否则，这类影像可能被像Takedown Piracy这样的组织发现，该组织是为成人内容创作者服务的几家版权执法公司之一。如果某人的身体缺乏区分性特征，在美国要证明版权违规可能很困难，Takedown Piracy的首席运营和营销官Reba Rocket说。但Rocket表示，她的团队在客户的素材中加入了数字指纹技术，以帮助标记和移除有问题的视频，通常是在客户意识到它们在线之前就已经找到。 通过从视频中捕捉“成千上万微小的视觉数据点”，数字指纹创建了相应的唯一文件，可以用来识别它们——有点像看不见的水印。即使盗版者修改视频或替换表演者的面孔，指纹仍然存在。Takedown Piracy已经为超过5亿个视频添加了数字指纹，并且该组织已经从Google(https://transparencyreport.google.com/copyright/reporters/1620?hl=en)单独撤下了1.3亿个受版权保护的视频（尽管在这些视频中，Rocket没有跟踪其中有多少具体包含别人的脸贴在表演者身体上的情况）。 除了版权，还有一系列法律工具可以用于打击NCII，圣克拉拉大学法学教授埃里克·戈德曼说。例如，受害者可以主张侵犯隐私。但使用这些工具并不简单，而且当涉及到某人的身体时，它们可能根本不适用。例如，如果没有人独特的标记表明深度伪造中的身体属于声称的那个人，美国法律“并不真正（将这种内容）视为侵犯隐私，”戈德曼说，“因为我们不知道该归因于谁。” 在一项审阅(https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2953747)涉及NCII案件“司法裁决”的2018年研究中，戈德曼发现，原告能够胜诉的一种成功方式是主张“故意造成情绪困扰”。但同样，这取决于能否清晰识别内容中的人。他补充说，相关法规可能还要求“伤害个人的意图”，这对于那些仅身体被展示的人来说可能很难证明。 ### “AI女孩会做你想做的任何事” 西尔弗斯坦说，在过去几年里，在深度伪造中看到真实成人内容创作者的身体变得越来越不常见，至少是以清晰可辨的方式。 有时身体已被AI或更简单的编辑工具操纵。这可能简单到擦除一个胎记或改变身体的某一部分大小——微小编辑使得无法以排除合理怀疑的方式识别某人的图像，因此即使是能看出被修改的图像以他们的身体为基础，色情演员在法律领域也难以取得进展。“很多人会说，*那看起来像我的身体*，”西尔弗斯坦说，但当他问他们怎么知道时，他们会回答，*就是看起来像*。 与此同时，其他用户现在正在使用完全AI生成的身体创建NCII。在“脱衣”应用中，任何掌握基本技术的人都可以上传某人穿衣服的照片，并用虚假的裸体替换。“所以[大量]正在被创建的内容只是某人的脸贴在AI身体上，”西尔弗斯坦说。 这类应用最近引起了广泛关注，从Grok的“给未成年人脱衣”(https://www.techpolicy.press/tracking-regulator-responses-to-the-grok-undressing-controversy/)事件，到Meta为脱衣应用Crushmate投放广告(https://www.404media.co/instagram-ads-send-this-nudify-site-90-percent-of-its-traffic/?ref=daily-stories-newsletter)然后又起诉(https://www.404media.co/meta-sues-nudify-app-that-keeps-advertising-on-instagram/?ref=daily-stories-newsletter)它，但相对很少关注用于训练它们的内容。这些内容几乎肯定利用了超过1万TB(https://pmc.ncbi.nlm.nih.gov/articles/PMC9252028/)的在线色情内容，而表演者几乎没有任何追索权。 原因之一是创作者无法确定地证明他们的内容*确实*被用于训练像脱衣应用使用的那些AI模型。“这些东西都是黑箱，”专门从事数字取证研究的加州大学伯克利分校教授Hany Farid说。但“考虑到（成人内容的）普遍性，”他补充说，这是一个“合理的假设”，即在线色情内容被用于AI训练。 “在网上找到色情数据集一点也不困难，”MIT研究深度伪造的计算机科学博士生Stephen Casper说。此外，他说，大量隐秘的在线社区提供“用户指南”，指导如何使用这些数据训练AI，特别是生成裸体的程序。 目前还不确定这种行为是否属于美国法律定义的“合理使用”——这个问题目前正通过其他类型内容创作者的几起诉讼进行诉讼(https://www.reuters.com/legal/government/ai-copyright-battles-enter-pivotal-year-us-courts-weigh-fair-use-2026-01-05/)——但Casper认为，即使属于合理使用，将10年前由同意成年人制作的色情内容纳入这些训练数据集在伦理上也存在争议。当人们“自己的东西被以不尊重或不符合他们当时对创作内容及用途合理预期的方式使用时，”他说，“有一种合理的意义上，这有点……非自愿。” 多年前开始工作的成人表演者根本不可能同意任何AI相关的东西；珍妮弗称与AI相关的风险是“回溯性附加的”。西尔弗斯坦补充说，色情演员在AI出现前签订的合同可能会规定，“出版商可以使用现在存在或未来将发现的技术对内容做任何事情。”当制片人谈论从VHS到DVD的转变时，这感觉更无害，因为那确实