诉讼：Grok用户制作7000张儿童色情图片；xAI仅报告了一起轮奸提示

# 起诉书：男子用Grok制作7000张继女性爱图片，随后开枪自杀 来源：https://arstechnica.com/tech-policy/2026/07/lawsuit-grok-user-made-7k-child-sex-images-xai-only-reported-one-gang-rape-prompt/ 阻碍AI儿童性虐待材料（CSAM）调查？ 更多年轻女孩就Grok生成CSAM起诉X；X被指控包庇儿童性侵犯者。 一起据称由Grok生成儿童性爱图片的最骇人听闻的案件，被纳入周二扩大提交的拟议集体诉讼中。现在，年轻女孩们不仅指控X和xAI构建了有毒的AI“脱衣”工具，还通过阻碍警方对Grok生成的CSAM的调查来包庇儿童性侵犯者。 修正起诉书称，今年3月，一名女孩的继父在警方发现他使用Grok，利用其继女11岁时的一张照片制作了7000张露骨性爱图片后自杀。 起诉书称，Grok允许该男子生成描绘乱伦和强奸的极端图片，而未标记任何有害行为。似乎xAI的儿童安全系统只在该男子输入“轮奸”提示后才介入。该请求向国家失踪与受剥削儿童中心（NCMEC）发送了网络举报，后者随即向执法部门通报了AI生成的CSAM。 然而，伤害也并未就此停止。起诉书称，尽管有强制报告要求，在标记CSAM时需要分享用户IP地址等信息，但xAI多次拒绝帮助警方或NCMEC识别用户。据称，数周内xAI“处处阻挠调查”，使“执法部门定位、识别和逮捕犯罪者的努力”更加困难。 最终，警方获得搜查令没收其设备后，该继父被捕。就在那时，“法医审查发现了大约7000张AI生成的图像和视频”，描绘其继女，据称是用Grok制作的。家人怀疑，如果没有Grok提供便捷的“脱衣”功能，他永远不会生成这些有害图片，据称他在网上交易这些图片以换取“其他儿童性侵犯者制作的CSAM”。 起诉书称，该男子获保释两天后开枪自杀，使这位年轻女孩——起诉书中称为Jane Doe 4——陷入“极度个人危机时期”。她现在患有焦虑和抑郁，以及“与自杀念头抗争”。 “一夜之间，Jane Doe 4的整个现实被儿童性剥削和自杀的双重悲剧摧毁，”诉讼称。“她的家庭支离破碎，她的生活变成了一场噩梦。” ## xAI被指控包庇性侵犯者 在一份新闻稿中，这些女孩的代理律所Lieff Cabraser Heimann & Bernstein和Baehr-Jones Law表示，Jane Doe 4的案件并非孤例。他们指出，NCMEC在2026年初发现，xAI提交的网络举报中“90%对执法部门不可操作，因为xAI拒绝包含能让执法部门追踪和定位犯罪者的用户信息。”正如律师们解释的： > “Jane Doe 4的案件显示了这种模式如何上演：xAI向NCMEC的强制报告仅包含原始、非CSAM的照片，省略了每一张AI生成的CSAM图像，且未包含这些图像生成的IP地址。尽管调查人员反复请求这些对识别和逮捕犯罪者至关重要的位置信息，xAI不予回应，阻挠调查数周。” 据称，xAI为了避免分享这些信息，将利润置于儿童安全之上。在新闻稿中，Jane Doe 4指控X在Grok将“一张我小时候穿着超大熊猫睡衣睡在沙发上的照片”变成“数千张我的露骨性爱图片——那些图片恐怖到我甚至无法描述”后“保持沉默”。 “他们拥有帮助执法部门阻止犯罪者并伸张正义所需的一切。相反，他们保持沉默，允许这个人用Grok偷走我的童年，”Jane Doe 4说。“这项技术是一种免费的、易获得的武器，交到了世界上最坏的人手中。危险之处在于，无法阻止性侵犯者获取任何照片——不仅仅是互联网上的照片，而是任何一张儿童的照片——并用这项技术从你最可怕的噩梦中创建图像。没有人是安全的——成年人、儿童，任何人都不是。” 周二出面作证的另一个女孩Jane Doe 5，也遭到一位认识的成年家庭朋友针对，此人同样在网上传播据称由Grok生成的图像。起诉书称，该女孩直到警方逮捕了这名犯罪者，并指控他“大量持有和分发CSAM内容”，且“仅限于非AI生成的CSAM”后才得到通知。 她的母亲将Jane Doe 5的受害归咎于xAI，称因为Grok，“我的女儿充满焦虑，感觉自己完全无法控制谁看了这些图片。任何孩子都不应该经历这些。” xAI创始人埃隆·马斯克否认Grok曾被用于生成儿童性爱图片。 然而，研究人员估计，Grok松懈的安全措施——允许用户提出“刺激”请求以脱去衣物——已伤害了数万名儿童而未有有意义的干预。到目前为止，xAI唯一采取的行动是对该功能收费，起诉书称这仅仅确保了xAI从所有Grok生成的CSAM中获利。 X和xAI未回应Ars的置评请求。 ## Stability AI被卷入xAI斗争 除了在起诉书中增加更多受害者，律师们还将Stability AI列为被告。 根据修正起诉书，Stability AI的开放权重模型曾在含有CSAM的数据集上训练，并据称“作为第三方‘脱衣’应用的基础”，Grok用户据称依赖这些应用进一步修改露骨的Grok输出。 与X和xAI类似，Stability AI被指控故意放松安全措施以抢占市场，允许生成不宜工作场合（NSFW）的内容。诉讼称，“基于信息和信念”，此前防止NSFW输出的安全措施在Stability AI的模型使用量下降后被移除，原因是用户抱怨该模型过于保守。 似乎在这起诉讼最初提起后，警方发现针对起诉中未成年人的两名犯罪者的手机上有依赖“Stability AI图像生成工具”的应用。因此，起诉书被修改，指控一些犯罪者可能使用了Grok或与Stability AI相关的工具，或两者都用。 由于许多脱衣应用依赖Stability AI的模型，诉讼称“没有Stability的模型，衍生应用就不会以目前的形式存在，也不会拥有能够创建CSAM的图像和视频生成能力。”为支持其主张，修正起诉书引用了一份6月的报告，研究人员发现“Stable Diffusion系列是在线图像脱衣化的主要驱动力”，占此类图像的42.7%。 周三晚些时候，Stability AI的一位发言人对Ars的置评请求作出回应，强调“Stability AI致力于防止AI技术的滥用，特别是在创建和传播有害内容方面，包括CSAM，这在我们的可接受使用政策中明确禁止。” 该发言人引用了Stability AI的儿童安全工作，包括“定期”与执法部门及儿童安全组织合作，如Thorn，以及一个打击儿童性剥削的科技公司全球联盟——Tech Coalition。 “任何认为安全不是我们首要任务的说法都是绝对错误的，”Stability AI的发言人说。“我们认真对待我们的道德责任，并且自2022年底（Stable Diffusion 2及以后）接管Stable Diffusion系列模型的独家开发以来，已实施强有力的安全措施以提升我们的安全标准，保护我们的产品免受滥用。” ## 成千上万受害者可能加入诉讼 由于Stability AI已被列为被告，该诉讼现在寻求覆盖两个类别，每个科技公司一个类别，以及每个类别的田纳西州子类别。 xAI类别涵盖所有“其作为未成年人的真实图像被使用Grok更改，以创建带有其面部和/或其他可合理识别特征的露骨性行为或内容图像或视频”的美国人士。Stability AI类别包括同样因“使用基于Stability AI模型构建的应用”而受害的美国人士。 律师估计，可能有成千上万的未成年人有资格加入这些类别，并继续寻找受AI CSAM伤害的受害者。 NCMEC未回应Ars的置评请求。 然而，该组织已呼吁平台、立法者、儿童安全组织和执法部门共同努力，应对“协调行动的日益紧迫性”。 今年3月，NCMEC警告称，2025年“与生成式AI（GAI）相关的报告”出现“急剧上升”。据NCMEC称，去年有超过150万条网络举报，表明“与GAI和儿童性剥削有关联”。令人不安的是，在超过13.3万起案件中，NCMEC“缺乏足够的信息来确定技术是如何被使用的”。 该报告没有点名X或xAI，但确实暗示AI公司很可能普遍避免分享可用于逮捕的AI CSAM信息。例如，NCMEC指出，亚马逊AI服务提交了绝大多数的举报（110万条），其中没有一条提供了执法部门可用于识别犯罪者的“可操作信息”。 随着对AI公司给儿童造成伤害的审查加剧，倡导者希望公司能微调模型以阻止所有裸体内容。起诉X的女孩们指控这是唯一的补救措施，“因为如果你有一个允许任何色情或虐待内容的模型，就不可能阻止该模型生成涉及未成年人的此类内容。” 在新闻稿中，代表未成年人的律师之一Annika K. Martin谴责xAI和Stability AI据称明知故犯地构建了“能够生成深度伪造CSAM的模型”，“完全不顾他们知道会随之而来的破坏。” “AI生成的CSAM是一种社会祸害，触及每一个社区和每一个人口统计群体，”Martin说。“伤害的规模是惊人的，其产品助长这一行为的公司必须被追究责任。” *本文于7月8日更新，加入了Stability AI的评论。* 阿什莉·贝朗格的照片 (https://arstechnica.com/author/ashleybelanger/) 阿什莉是Ars Technica的高级政策记者，致力于追踪新兴政策和新技术的社会影响。她是驻芝加哥的记者，拥有20年经验。 126条评论 (https://arstechnica.com/tech-policy/2026/07/lawsuit-grok-user-made-7k-child-sex-images-xai-only-reported-one-gang-rape-prompt/#comments) 1. 最受欢迎文章列表中的第一篇文章封面图：两名青少年从Waymo学到的惨痛教训：不要拿玩具枪玩驾车扫射 (https://arstechnica.com/cars/2026/07/two-teens-learn-the-hard-way-not-to-do-toy-gun-drivebys-from-a-waymo/)