xAI不能再否认Grok生成CSAM。于是它起诉用户。

# xAI 再也无法否认 Grok 能生成儿童性虐待内容，于是它起诉了用户 来源：https://arstechnica.com/tech-policy/2026/07/xai-cant-deny-grok-makes-csam-anymore-so-its-suing-users/ 马斯克：AI 输出内容属于用户内容 埃隆·马斯克的 xAI 首次对一名被指控使用 Grok 制作儿童性图像的用户提起诉讼。 面对日益增大的压力，xAI 不得不承认 Grok 仍可用于生成未经同意的成人及儿童色情图像。xAI 于周二提起诉讼（https://cdn.arstechnica.net/wp-content/uploads/2026/07/xAI-v-Harwood-Complaint-7-14-26.pdf），起诉了埃隆·马斯克公司指控的首位利用其聊天机器人创建非法内容的用户。 该诉讼针对的是特里·韦恩·哈伍德（Terry Wayne Harwood），他于今年早些时候因持有和传播儿童性虐待材料（CSAM）被捕，南卡罗来纳州检察官办公室已公布（https://www.scag.gov/about-the-office/news/four-upstate-men-arrested-on-child-sexual-abuse-material-charges/）。 据 xAI 指控，该公司在协助此次逮捕时发现，哈伍德数月来使用两个 xAI 账户，对多名受害者的非色情图像进行“脱衣”或“裸化”处理，其中包括一名看似年仅 10 岁的女童。 xAI 提起诉讼大约一周前，另一名女童加入了一项拟议的集体诉讼，该诉讼代表多名据称受到 Grok 伤害的儿童。她指控其继父在被人发现使用 Grok（https://arstechnica.com/tech-policy/2026/07/lawsuit-grok-user-made-7k-child-sex-images-xai-only-reported-one-gang-rape-prompt/）（可能还结合其他 AI 工具）生成她本人的 7000 张色情图像，并在暗网上传播后自杀。 在该案中，受害者指控 xAI 拒绝协助警方识别将她的图像上传至 Grok 的用户。为支持其主张（即这是 xAI 的惯常做法），她的律师引用了一份 2026 年国家失踪与受虐儿童中心（NCMEC）的报告，确认 xAI 的 CyberTipline 报告中“90% 对执法部门没有可操作性，因为 xAI 拒绝提供用户信息，致使执法人员无法追踪和定位肇事者。” 在受害者指控 X 平台包庇犯罪者的同时，马斯克此前一直坚称，他未见过任何 Grok 生成的 CSAM 实例。马斯克非但没有限制 Grok 的输出以杜绝 CSAM 的产生，反而警告用户要负责任地行事，并于 1 月 3 日在 X 上发帖称：“任何使用 Grok 制作非法内容的人，将像上传非法内容一样承担后果。” 然而，就在马斯克发帖的同时，哈伍德据称无视马斯克的警告，反复向 Grok 发送提示，直至聊天机器人生成可能是未经同意的露骨图像。 现在，马斯克似乎无法再否认 Grok 会生成 CSAM。xAI 的诉讼称，哈伍德使用至少两个用户名为复杂字符串（“ceae2cb4-a9f6-4885-8ae9-6e2096d084f4”和“befccb94-4029-454d-9f1f-0d4945e8fa7c”）的账户，在 12 月 8 日至 2 月 18 日期间生成非法内容。 有时，Grok 的安全措施确实能阻止有害输出，“以该材料违反 Grok 内容审核护栏为由”拒绝遵循某些提示。诉讼中包含了一个 Grok 拒绝的格外令人毛骨悚然的提示示例，该提示使用“白色粘液”等短语来掩盖生成色情图像的意图。 不过，该特定提示被拒绝可能有一个明显的原因：哈伍德明确要求聊天机器人“脱掉她所有的衣服”，这直接违反了 xAI 用户条款中关于禁止要求对真人进行“脱衣”的规定。在拟议的集体诉讼中，原告声称 xAI 忽略了许多恶意请求，在最近一名受害者的案件中，仅向 NCMEC 报告了 7000 条有害输出中的一条关于“轮奸”的提示。 为了避免其他恶意行为者绕过安全措施，xAI 没有公布哈伍德成功使用的提示示例，也未描述绕过过滤器的方法。xAI 仅指控哈伍德修改提示以绕过安全措施，“明显违反了 xAI 服务条款和美国法律”，包括“一些”涉及“未成年儿童肖像”的“淫秽”图像请求。 南卡罗来纳州总检察长办公室的一位发言人告诉 Ars，哈伍德的案件仍在审理中。具体而言，他被指控“分发、运输、展示、接收、销售、购买、交换或索取‘通过人工智能平台’制作的 CSAM”。 该发言人未获授权确认 Grok 是否为所涉平台。然而，xAI 的诉状称，“据信息与确信，哈伍德刑事案件中至少部分争议图像是通过被告违规使用 Grok 生成或修改的。” xAI 未立即回应 Ars 的置评请求。 ## xAI 将责任推给用户的计划 在诉讼中，xAI 阐述了为何只有用户应对 Grok 生成的 CSAM 负责。如果法院同意这一观点，该裁定可能会加强 xAI 在潜在的集体诉讼（律师估计可能涉及数千名受害者）中的辩护。它还可能为 xAI 提供一把锤子，只要受害者提出投诉，就随时可以用来打击其他用户。 xAI 表示，部分起诉哈伍德违约的原因是为了避免“巨额法律费用”以及“重大损害赔偿责任风险”，这些可能是其受害者因哈伍德滥用 Grok 而起诉 xAI 时所寻求的。 马斯克的公司认为，法院应将 Grok 视为“一个中立的工具，受用户控制”。 xAI 辩称：“与任何生成式 AI 工具一样，每一个回复、每一张图像、每一次生成都是用户提示和指令的结果。” 诉状强调，xAI 的使用条款在安全使用 Grok 与有害使用之间划出了“一条明确界限”，每位用户在注册时均同意该条款。 xAI 的条款规定，与哈伍德案件相关的是，Grok 用户被禁止使用 Grok “对真人进行脱衣或裸化”，或以其他方式使用聊天机器人“更改真人的图像或肖像，以将其描绘在亲密或性情境中”。用户还被禁止“以色情方式描绘他人的肖像”或“将儿童性化或对其进行剥削”。 此外，xAI 还指出，任何发现的 CSAM 都会向 NCMEC 报告。 在诉状中，xAI 声称哈伍德应单独对其输出负责，因为他“公然违反”了 xAI 的规定，并“不遗余力地绕过”Grok 的“技术安全措施”。 xAI 称，哈伍德据称通过依赖“误导性提示”来做到这一点。xAI 还辩称，哈伍德在发现自己能够生成非法内容后，未能自我约束。在诉状中，xAI 指控哈伍德在第一次使用聊天机器人制作非法内容后，就应该知道自己被禁止使用 Grok。然而，xAI 并未提及哈伍德曾收到任何账户面临处罚的警告。 相反，xAI 辩称，哈伍德据称“在违反 xAI 服务条款后，继续在相关期间使用 Grok”。“他同意的 xAI 服务条款禁止他在此前的违规行为之后继续使用。” xAI 希望美国地区法院裁定哈伍德违反了 xAI 的条款并违反了与 xAI 的合同。但或许更重要的是，马斯克希望法院承认一项赔偿条款，即只有用户（而非 xAI）应对 Grok 生成的 CSAM 和 NCII（非自愿性图像）负责。根据 xAI 的说法，当人们使用 Grok 时，他们对自己所有内容负责，xAI 坚称这包括输入和输出。 法院是否会同意用户对 AI 输出内容负责，仍有待观察。值得注意的一点是，版权局并不将 AI 输出视为人类创作。如果法院难以理解为什么 AI 工具生成的儿童色情图像可以被视为用户创作（而其他任何图像都不能以这种方式合法归属），这可能会给 xAI 的论点带来麻烦。 诉状称，如果 xAI 赢得这场诉讼，哈伍德可能需要支付巨额赔偿金，包括“对第三方造成的任何实际损害”、xAI “面临的潜在第三方索赔和诉讼风险”以及“任何 xAI 声誉损害”。 Ashley Belanger 的照片（https://arstechnica.com/author/ashleybelanger/） Ashley 是 Ars Technica 的高级政策记者，致力于追踪新兴政策和新技术的社会影响。她是一位在芝加哥工作的记者，拥有 20 年经验。 70 条评论（https://arstechnica.com/tech-policy/2026/07/xai-cant-deny-grok-makes-csam-anymore-so-its-suing-users/#comments） 1. 最受欢迎故事中的首篇文章配图：Sheetz 放弃 VMware，迁移 11,000 台虚拟机（https://arstechnica.com/information-technology/2026/07/sheetz-moves-838-stores-off-vmware-broadcom-created-too-much-uncertainty/）