Grok 仍在托管知名女性的色情深度伪造内容

# Grok仍在托管知名女性的色情深度伪造内容 来源：https://www.wired.com/story/grok-is-still-hosting-sexualized-deepfakes-of-famous-women/ 埃隆·马斯克的Grok（https://www.wired.com/tag/grok/）聊天机器人显然仍在被用来制作和托管未经同意的女性露骨图像和视频，而数月前马斯克的人工智能公司xAI（https://www.wired.com/story/spacex-acquires-xai-elon-musk/）曾表示将引入限制措施，以阻止潜在有害的色情深度伪造内容的产生。这些揭露恰逢SpaceX（https://www.wired.com/story/spacex-ipo-anthropic-compute-finances-risks/）（xAI的母公司）本周五即将进行史上规模最大的IPO之一。 WIRED对公开创作内容进行分析后发现，Grok Imagine生成式AI系统已被用于制作和托管图像与视频，内容涉及名人及至少一位政治家被一名巨汉强行控制、女性表演性行为以及全裸场景。虽然部分图像和视频完全由AI生成或采用动画风格，但另一些则具有照片级真实感，展现了看似真实的现实场景。 WIRED审查了数百个托管在Grok.com上的公开Grok Imagine链接，发现其中数十个指向了色情AI图像和视频，包括未经当事人同意制作的内容。部分在Grok.com上创建的链接随后被分享到X平台，包括近期的分享。这些帖子未显示创建时间戳，可能只是用户使用Grok Imagine系统所生成内容的一个缩影，因为生成的默认状态似乎并非公开。 其他生成式AI系统部署了比Grok更严格的安全护栏，而Grok可在其官网和X平台上使用。“尽管Grok和X可能对模型做出了一些修改，特别是在年初‘裸体化’（https://www.wired.com/story/grok-is-pushing-ai-undressing-mainstream/）功能引发争议之后，但他们仍未做出足够努力，使其达到其他主流工具的标准，”深度伪造专家Henry Ajder表示，他近十年来一直追踪网上的露骨AI内容。 自1月份以来，马斯克的xAI已面临一系列诉讼（https://www.wired.com/story/xai-asks-court-to-strip-alleged-grok-deepfake-nudes-victims-of-anonymity/）以及全球监管机构的审查。当时X平台上的Grok被用于生成大量“裸体化”图像（https://www.wired.com/story/grok-is-being-used-to-mock-and-strip-women-in-hijabs-and-sarees/）。X上的用户——主要是男性——要求聊天机器人编辑图像，让女性穿上“比基尼”或“细绳比基尼”。根据3月在加州联邦法院提起的一项集体诉讼，一些图像中疑似包含未成年人的色情化处理（https://www.businessinsider.com/lawsuit-allegation-xai-grok-created-sexualized-deepfakes-minors-2026-3）。 此后，xAI表示已引入安全措施以限制和防止未经同意的色情深度伪造内容的创作。该公司一直强调，儿童性虐待材料（CSAM）在其平台上是被禁止的。 对于托管在Grok.com上的大量色情图像，xAI和X均未立即回应WIRED的置评请求。在WIRED联系这些公司后，我们在Grok.com上找到的露骨图像和视频似乎已无法访问，而分享在X上的Grok Imagine链接也因违反政策被删除。“我们严格禁止用户生成未经同意的露骨深度伪造内容，以及使用我们的工具对真人进行‘脱衣’，”X的安全账户于4月发布声明（https://x.com/Safety/status/2044119192765641088），回应NBC关于色情深度伪造仍然存在的报道（https://www.nbcnews.com/tech/tech-news/musks-ai-chatbot-grok-xai-making-sexual-deepfakes-imagine-rcna265855）。 在Grok.com上托管的帖子中，WIRED确认了涉及多位名人以及美国众议员Alexandria Ocasio-Cortez的图像和视频。（Ocasio-Cortez的发言人未立即回应WIRED的置评请求。）在这些视频中，女性被描绘成衣着极少，并被一名男子的“巨大”手掌紧紧握住。一个提示词描述一位名人“恳求他不要这样”却被强行控制。提示还写道：“巨手收紧了她的抓握，将她固定住，而那个巨大的男人俯下身，从下往上舔她的脸。” WIRED测试发现，用于在Grok上生成内容的两个提示词被OpenAI的ChatGPT、Meta AI和Anthropic的Claude视为不当而被拒绝。谷歌的Gemini确实生成了一位名人被巨人握在手中的图像，但拒绝了另一个提示词。谷歌拒绝置评。 一个同样被发布到X平台的Grok Imagine视频，似乎显示Ashley St. Clair被修改为穿着比基尼跳舞。St. Clair此前与马斯克有过恋情，是他其中一个孩子的母亲。1月份，她已对xAI提起法律诉讼（https://www.cagoldberglaw.com/filed-ashley-st-clair-vs-xai/），原因据称是她的色情深度伪造内容出现在X上。在WIRED联系X后，该帖子因违反平台规则被移除。 St. Clair的律师Carrie Goldberg（一位反对未经同意的色情影像的著名倡导者）表示，制作涉及名人的性虐待材料并非新鲜事——但能够制作此类图像并立即在社交媒体上分享，这一能力是“历史性”的发展。 “因此，这些数字裸体图像实现了即时发布，”Goldberg告诉WIRED。“不仅如此，世界上最富有的人还在X上向他的2.4亿粉丝推广这一裸体化技术，将其变现，并且是放在一个面向13岁以上用户的平台上进行。” 反数字仇恨中心（CCDH）的CEO兼创始人Imran Ahmed也赞同Goldberg的担忧。“埃隆·马斯克故意在他的平台上添加了一种反常功能，帮助用户一键脱掉女性和儿童的衣服，完全不顾其可预见的危害，”Ahmed声称。1月份，CCDH高度确信地估计Grok创造了（https://counterhate.com/research/grok-floods-x-with-sexualized-images/）300万张色情图像，据称其中超过2万张涉及儿童。“现在看来，露骨内容仍然被托管在Grok上并通过X分享，包括嘲笑马斯克孩子母亲的图像。” 与OpenAI和谷歌的其他生成式AI系统不同，马斯克的Grok和xAI并未全面回避允许性相关内容，此前他们曾引入“辛辣”和“疯狂”模式，并且最初部署的安全护栏较少。马斯克曾表示（https://x.com/elonmusk/status/2011562747620712927），Grok“应该允许虚构成年人类上半身裸体”，并与观众可能在R级电影中看到的内容一致。xAI最新的服务条款（https://x.ai/legal/terms-of-service）称，系统可能会回应“性场景”。然而，该公司的文档表示，它不允许人们使用其系统进行“造成伤害或参与滥用活动”。 WIRED看到的其他Grok Imagine视频显示，女性（很可能是完全由AI生成的）正在脱衣服或参与性行为——有些完全露骨。许多视频的用户提示词并不直接描述性行为，而是以迂回的方式描述——这可能是试图规避Grok平台上部署的安全措施。 多位研究人员告诉WIRED，自1月份以来，X和Grok引入的更改似乎使创建真实人物的“裸体化”或“脱衣”图像变得更加困难。近几个月来，发布到X上的这类图像数量似乎有所减少。在Reddit和一个专门的AI深度伪造论坛上，用户抱怨来自这家SpaceX旗下公司的审核变得更加严格。 尽管如此，SpaceX在5月份曾警告潜在投资者（https://www.wired.com/story/spacex-ipo-grok-spicy-mode-risks/），该公司已拨出5.3亿美元用于处理持续的诉讼，包括与Grok相关的诉讼。“由于这些模式可能比我们的标准产品更加无礼和严厉，它们带来了更高的风险，包括声誉损害、生成潜在的露骨内容、错误信息或欺骗性输出、潜在的未经同意或剥削性图像、知识产权侵权，或者可能被视为剥削性、有害、骚扰、辱骂或歧视性的内容，”其5月份的文件表示。 在SpaceX本周五IPO之前，加拿大隐私专员公布了其对xAI和Grok在1月份深度伪造违规行为的初步调查结果。该调查指控xAI违反了（https://www.priv.gc.ca/en/opc-news/speeches-and-statements/2026/s-d_260611/）加拿大联邦私营部门隐私法，因为其“从一开始就没有包含适当的安全措施”。调查称，xAI已告知隐私专员，他们引入了新的安全措施，以防止用户成功提示Grok更改图像中的衣物，并且xAI已对社交媒体网站进行“进一步的主动检查”，以查找侵权内容。 然而，调查指出（https://www.priv.gc.ca/en/opc-actions-and-decisions/investigations/investigations-into-businesses/2026/pipeda-2026-004/）隐私专员对这些更改并不信服。“迄今为止，受访者尚未证明这些安全措施在预防和缓解此问题方面的有效性，”调查称。 *更新于2026年6月11日下午3点56分（美国东部时间）：添加了Carrie Goldberg的评论。*