xAI起诉一名男子使用Grok生成儿童性虐待素材深度伪造内容

# xAI 起诉一名男子利用 Grok 生成儿童性虐待材料“深度伪造” 来源：https://www.theverge.com/ai-artificial-intelligence/966293/xai-grok-user-lawsuit-csam 艾玛·罗斯 (https://www.theverge.com/authors/emma-roth) 艾玛·罗斯 是一名新闻撰稿人，报道流媒体大战、消费科技、加密货币、社交媒体等诸多领域。此前，她曾在 MUO 担任撰稿人和编辑。 埃隆·马斯克旗下的 xAI 正在起诉一名南卡罗来纳州男子，该男子涉嫌使用该公司的 Grok AI 聊天机器人生成儿童性虐待材料（CSAM）。据 *路透社* (https://www.reuters.com/legal/litigation/musks-xai-sues-grok-user-over-sexualized-deepfakes-2026-07-15/) 此前报道的一份起诉书 (https://www.documentcloud.org/documents/28483528-spacexai-v-harwood/)，xAI 声称特里·韦恩·哈伍德“明知并故意使用 Grok 规避安全措施、篡改未经同意的图像，并生成和传播 CSAM”，违反了公司的政策。 哈伍德于今年 2 月因涉嫌持有和传播 CSAM 被捕，并面临八项重罪指控。该诉讼称，与哈伍德刑事指控相关的“至少部分”图像是“使用 Grok 生成或篡改的”，并且哈伍德绕过了 Grok 的安全措施，“滥用该工具，在未经当事人同意的情况下，将非色情照片转换为露骨色情图像”。 去年，xAI 为 Grok 推出了一个“火辣”模式 (https://www.theverge.com/report/718975/xai-grok-imagine-taylor-swifty-deepfake-nudes)，随后增加了使用该聊天机器人编辑图像的功能，这导致大量色情 AI 深度伪造内容泛滥，其中包括涉及未成年人的内容 (https://www.theverge.com/ai-artificial-intelligence/855832/grok-undressing-children-csam-law-x-elon-musk)。今年 3 月，一群青少年起诉 xAI (https://www.theverge.com/ai-artificial-intelligence/895639/xai-grok-teens-lawsuit-grok-ai-elon-musk)，声称 Grok 生成了他们未成年时的色情图像。马斯克对此回应称 (https://x.com/elonmusk/status/2007475612949102943?s=20)：“任何使用 Grok 制作非法内容的人，都将面临与上传非法内容相同的后果。”尽管如此，这似乎是 xAI 首次因使用 Grok 制作的 AI 深度伪造内容而起诉某人。 xAI 声称哈伍德的行为使公司面临“重大法律风险和声誉损害”。它已请求法院责令哈伍德向 xAI 支付任何损害赔偿金，以及“为辩护被告行为受害者提起的任何法律诉讼而合理产生的费用”。xAI 还希望法官禁止哈伍德创建 xAI 账户或使用 Grok。 **关注话题和作者**，以便在您的个性化首页动态中查看更多类似内容，并接收电子邮件更新。 - 艾玛·罗斯