xAI 要求法院剥夺涉嫌使用 Grok 制作深度伪造裸照的受害者的匿名身份

# xAI 请求法院剥夺涉嫌 Grok 深度伪造裸照受害者的匿名权 来源：https://www.wired.com/story/xai-asks-court-to-strip-alleged-grok-deepfake-nudes-victims-of-anonymity/ 埃隆·马斯克的人工智能公司 xAI（https://www.wired.com/tag/xai/）正要求公开四名据称遭受其系统 Grok（https://www.wired.com/story/grok-is-generating-sexual-content-far-more-graphic-than-whats-on-x/）制作深度伪造色情图像的人的身份——其中一人甚至被针对性地生成了儿童时期的色情深度伪造图像。这一要求源于最近提交的法庭文件（https://www.courtlistener.com/docket/72185111/doe-v-xai-corp/）。 5月29日，这起联邦集体诉讼的四名主要原告——目前化名为南卡罗来纳州 Doe、南卡罗来纳州 Roe、新泽西州 Doe 和俄亥俄州 Doe——在宣誓书中描述了他们在今年早些时候据称遭受深度伪造图像创作后所经历的情感痛苦。文件称，这四人担心，如果在对 xAI 的诉讼中被迫使用真实姓名，他们将进一步遭受网络骚扰和人肉搜索。 “xAI 已经剥去了他们的衣服，现在又试图剥夺他们的化名，这显然是想通过加剧原告试图救济的伤害来恐吓他们放弃诉讼，”代表这些个人的 Berger Montague 律师事务所律师索菲亚·里奥斯在最近的一份文件中写道（https://www.courtlistener.com/docket/72185111/37/doe-v-xai-corp/）。“xAI 请求本法院推翻先前的裁决，暗示其持续实施的虐待行为无关紧要。”里奥斯对《连线》表示，她无法对文件内容之外的细节发表评论。 今年1月，马斯克旗下的 Grok 聊天机器人因大量男性使用这一生成式 AI 系统制造虚假女性“脱衣”和穿比基尼图片（https://www.wired.com/story/grok-is-pushing-ai-undressing-mainstream/）而引发全球愤怒。这些图片被发布在 X 平台上，其中还包括涉及儿童的色情化图像。根据反数字仇恨中心的分析（https://counterhate.com/research/grok-floods-x-with-sexualized-images/），Grok 在仅11天内就被用于创建了约300万张色情化图像，其中约2.3万张可能涉及儿童。面对全球范围内的诉讼和监管浪潮，现已收购 xAI 的 SpaceX（https://www.wired.com/story/spacex-acquires-xai-elon-musk/）已预留超过5亿美元（https://www.wired.com/story/spacex-ipo-grok-spicy-mode-risks/）来应对后果。 针对 xAI 的集体诉讼最初于1月提交（https://www.courtlistener.com/docket/72185111/1/doe-v-xai-corp/），当时只有一名化名主要原告。美国加利福尼亚北区联邦地区法院的一名法官批准（https://www.courtlistener.com/docket/72185111/9/doe-v-xai-corp/）了其以“无名氏”身份参与案件的命令。该案后来于5月初重新提交（https://www.courtlistener.com/docket/72185111/28/doe-v-xai-corp/），增加了四名化名原告，原无名氏改为南卡罗来纳州 Doe。 法庭记录中的声明称，起诉 xAI 的人会向公司提供自己的姓名和个人信息，但希望公开使用化名以保护隐私，避免与图像公开关联，并减少进一步遭受网络骚扰的可能性。原告的深度伪造图像并未包含在任何公开的法律文件中。 5月中旬，xAI 向北加州联邦地区法院提交了两项动议，要求法官推翻允许此案使用化名的裁决。文件称，根据民事诉讼法律（可能存在某些例外），案件必须列明所有当事方的姓名（https://www.law.cornell.edu/rules/frcp/rule_10）。Law360 首先报道（https://www.law360.com/articles/2478866）了 xAI 要求推翻先前决定的动议。 在两项动议（https://www.courtlistener.com/docket/72185111/35/doe-v-xai-corp/）中（https://www.courtlistener.com/docket/72185111/34/doe-v-xai-corp/），xAI 的律师声称，起诉方应使用真实姓名，因为公众有权了解起诉该公司者的身份。他们声称，没有证据表明本案中的个人会受到具体进一步伤害或威胁。他们还表示，由于深度伪造图像不会作为诉讼的一部分公开，这应能缓解任何隐私担忧。 “排除深度伪造图像本身——因为它将继续密封——揭示南卡罗来纳州 Doe 被制作了深度伪造图像这一事实，而不揭示图像本身，本质上并不会带来污名，”律师在5月15日的一份文件中写道。“因此，本案根本不涉及传统上认为需要化名保护的那种令人信服的隐私利益。” xAI 及其代理律师均未回应《连线》关于此案的置评请求。 弗吉尼亚大学法学院专攻数字虐待问题的法学教授丹妮尔·西特隆表示，在民事诉讼中，如果当事人被要求使用真实姓名起诉，可能导致诉讼被撤销，从而造成“不可接受且不公正”的局面。“强迫隐私诉讼中的原告以其真实姓名起诉，对司法透明度的促进微乎其微，却极大地阻碍了诉讼，”西特隆告诉《连线》。 根据5月29日提交的法律文件，本案所有四名化名原告都表示，如果必须公开姓名，他们将考虑退出诉讼。在最新提交的文件中，原告律师表示（https://www.courtlistener.com/docket/72185111/37/doe-v-xai-corp/）应驳回 xAI 的请求，并补充说本案涉及的是“高度私密且令人尴尬的深度伪造图像，这些图像未经原告同意而被传播”。 南卡罗来纳州 Doe 描述了他们如何在网上发现据称是他们的深度伪造图像，“被脱到只剩一件暴露的比基尼”，并表示该图像展示了她“绝不会公开分享”的身体。他们担心，如果雇主或同事看到这张图片会怎么想，并害怕进一步成为网络攻击的目标。“一想到那个要求 Grok 制作这张深度伪造图像的人会用这张照片做什么，我就感到极度厌恶，”他们写道。 “如果我被迫在此案中公开我的姓名，我担心那些支持埃隆·马斯克、他的公司和 Grok 的人——我观察到他们在网上非常活跃——会从公共记录中找到我的名字，传播它，对我进行人肉搜索，并通过创建更多、更极端的深度伪造图像来报复我，”文件中写道。 其他据称的深度伪造受害者也在类似陈述中描述了他们在未经同意的情况下看到这些图像时所经历的“严重情感痛苦”、尴尬和震惊。总体而言，其他深度伪造性虐待（https://www.wired.com/story/grok-is-being-used-to-mock-and-strip-women-in-hijabs-and-sarees/）和非自愿图像（https://www.wired.com/story/deepfake-survivor-breeze-liu-microsoft/）的受害者都描述过类似的感受。 诉讼中化名为新泽西州 Doe 的一名男性表示，他看到 X 平台上有人使用 Grok 创建色情化图像，并发布了一条请求：“未经我同意，Grok 不得创建我的图像。”法庭记录称，第二天他就发现了自己的两张深度伪造图像，其中一张描绘了他“分开臀部”的样子。他说他认为那条请求 Grok 不要创建他的深度伪造图像的信息“让我的账户引起了那些利用 Grok 进行骚扰和造成痛苦的网络喷子的注意”。 南卡罗来纳州 Roe 声称，Grok 被用来创建她作为儿童时的露骨图像。法庭文件称，2月份，警察搜查了南卡罗来纳州 Roe 与父母同住的住所。“我从执法人员那里得知，我父亲正面临与持有和传播儿童性虐待材料有关的刑事指控，”文件称。 “我了解到 Grok 篡改了几张描绘我和父亲在床上的图像。Grok 修改了这些图像，使其看起来好像我们刚刚完成性行为，”文件称，并补充说当事人本人并未看到这些图像。南卡罗来纳州 Roe 在法律声明中称自己“悲痛欲绝”，因为无法控制这些深度伪造图像，并担心这些图像会被恋童癖者在网上传播。“公开我的身份会给我带来无法估量的伤害，”法庭文件写道。