埃隆·马斯克的xAI被指使用儿童色情材料训练Grok模型，诉讼称

# 诉讼称马斯克旗下xAI使用儿童色情内容训练Grok模型 来源：https://arstechnica.com/tech-policy/2026/08/elon-musks-xai-used-child-porn-to-train-grok-models-lawsuit-says/ 跳转到正文内容 (https://arstechnica.com/tech-policy/2026/08/elon-musks-xai-used-child-porn-to-train-grok-models-lawsuit-says/#main) xAI被指控使用真实及AI生成的儿童色情内容训练Grok。 随着监管机构和法庭持续追查问题的严重程度，xAI现被指控使用儿童性虐待材料（CSAM）训练其Grok模型，部分Grok用户已被逮捕 (https://arstechnica.com/tech-policy/2026/07/elon-musks-xai-is-trying-to-sue-its-way-out-of-a-grok-reckoning/)。 在一份 (https://cdn.arstechnica.net/wp-content/uploads/2026/08/Doe-v-X-Corp-Complaint-8-27-26.pdf) 于周三提交的诉状中，一位化名简·多伊的原告陈述，她在2000年代初尚处学龄前时，被成年男性反复强奸以制造CSAM并出售给网络上的恋童癖者。此后，多伊的照片已被美国国家失踪与受虐儿童中心（NCMEC）及加拿大儿童保护中心（CCCP）等组织标记为哈希值。 出于安全考虑，多伊选择通过美国司法部受害者通知系统接收警报，每当她可能成为新刑事案件调查的受害者时都会收到提醒。尽管她已收到无数警报，但当CCCP通知她其AI生成的CSAM被用于描绘她时，她仍感震惊。这使多伊再次受到创伤，其诉状指控，在线论坛上发现了“肇事者之间交流如何为原告及其他处于类似境况的已知、传统CSAM受害者制作AI生成CSAM”的信息。 如今，多伊担心xAI不仅使制作更多涉及她人生最痛苦时期的新违规图像变得更容易，还指控xAI存储了Grok生成的图像并利用这些输出进一步训练Grok。因此，她认为Grok接受了最初那组困扰她超过20年的图像以及近期AI生成图像的训练。 这是首起指控xAI使用CSAM进行训练的案件，诉状对此主张未作详述。此前，Ars曾报道过一个 (https://arstechnica.com/tech-policy/2023/12/child-sex-abuse-images-found-in-dataset-training-image-generators-report-says/) 后来被清理 (https://arstechnica.com/tech-policy/2024/08/nonprofit-scrubs-illegal-content-from-controversial-ai-training-dataset/) 的争议数据集，研究人员在其中发现CSAM，但无证据表明xAI使用该数据训练。在多伊律师发布的新闻稿中解释称，多伊的图像包含在NCMEC维护的CSAM哈希列表中，而“该相同材料”据称“是xAI用于构建Grok图像和视频生成能力的数据集的一部分”。诉状同样仅指控“描绘原告并具有其长期知名哈希值的CSAM已被用作xAI所使用的数据集的一部分”。 然而，关于Grok使用AI生成的CSAM进行训练的指控则有更多细节。 多伊的诉状指出：“由于Grok的条款默认将公开的X帖子及Grok自身的输出视为训练数据，因此公开发布图像不仅暴露给观众，还直接将其输入xAI用于训练和改进模型并进而生成更多图像的流程中。” 诉讼进一步指出，虽然xAI过滤了Grok输出中的暴力内容以将其排除在训练数据之外，但xAI的条款明显未说明CSAM、非自愿亲密影像（NCII）或不适合工作场所（NSFW）材料是否属于“排除类别”。 诉状因此似乎表明，“由于从已训练模型中完全移除训练样本的影响在技术上十分困难，且xAI并未公开声称已完成此操作，因此任何在清理前被纳入训练的CSAM，即使原始图像已从公共视野中移除，可能仍继续影响模型的输出。” ## 多伊要求销毁所有Grok CSAM 在其提议的集体诉讼中，多伊寻求终止Grok的有害输出。若获批准，该集体将代表所有童年图像被用于生成Grok CSAM的受害者。 诉讼指控X公司违反了联邦儿童色情法律以及《玛莎法》(https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2368998)，这两项法律均赋予CSAM幸存者就制作、持有和分发行为提起诉讼的权利。多伊的律师玛格丽特·E·马比在新闻稿中表示，这三项都是犯罪行为，而“xAI全部都做了”。 如果多伊胜诉，xAI可能需要向每一位能够证明Grok基于其真实照片生成CSAM的受害者支付损害赔偿。多伊还要求法院命令xAI销毁其服务器上可能存储并用于训练Grok模型的所有Grok生成的CSAM。此外，她要求xAI阻止Grok永远无法生成CSAM，其诉状暗示这需要阻止Grok输出任何包含色情内容的图像，包括马斯克曾推广的NCII和NSFW“比基尼照片”。 多伊的律师之一莎拉·伦敦在新闻稿中表示，多伊“近二十年来一直生活在阴影中，知道她人生中最糟糕经历的图像在掠夺者中流传，并且可能随时再次出现。xAI必须为其明知故犯地使用她所遭受的恐怖虐待图像以及其他集体诉讼中每位幸存者的虐待图像来训练模型负责。” X公司未回应Ars的置评请求。 Ashley Belanger 的照片 (https://arstechnica.com/author/ashleybelanger/) Ashley是Ars Technica的高级政策记者，致力于追踪新兴政策和技术对社会的影响。她是一名驻芝加哥的记者，拥有20年从业经验。 74 条评论 (https://arstecha.com/tech-policy/2026/08/elon-musks-xai-used-child-porn-to-train-grok-models-lawsuit-says/#comments) 1. 最多阅读文章首篇配图：新Twitter上线，称马斯克的X放弃了该名称 (https://arstechnica.com/tech-policy/2026/08/new-twitter-launches-says-musks-x-gave-up-the-name/)