OpenAI 的文本水印无法证明某段文字不是你写的。我搭建了一个实验室，你可以在那里亲眼看着它失效。
摘要
文章介绍了 OpenAI 为满足欧盟 AI 法案第 50(2) 条来源透明度要求而推出的文本水印 textGrain，并展示其发布的失效曲线：同义词替换 10% 时检测率从 92% 降至 66%，替换 25% 时仅剩 17%。作者还构建了一个交互式攻击实验室，可实时演示翻译回译、同义词替换和数学化文本如何让水印检测的 p 值崩塌，强调未检测到水印并不能证明内容出自人类之手。
OpenAI 的 textGrain 是他们应对《欧盟人工智能法案》来源标识规定（第 50(2) 条）的方案：一种融入用词选择的隐形统计水印，只有使用他们的密钥才能检测到。不寻常的是，他们在发布时就公布了检测失效曲线。将 10% 的词替换为同义词，检测率就从 92% 降至 66%。替换 25%，检测率就降至 17%。数学内容和短文本几乎无法嵌入水印。我写了一篇交互式解读，其中包含一个攻击实验室：你可以对一段带水印的文本进行同义词替换、往返翻译，或将其改成类似数学表达的文本，实时观察检测器的 p 值骤降。最重要的一句话出自 OpenAI 自己：未检测到水印，并不能证明文本由人类撰写。下次有人向你推销 AI 作者身份检测器时，请记住这一点。原文：https://openai.com/index/eu-text-provenance/ 我的解读（英文，内附法语版链接）：https://movahedi.ca/insights/openai-textgrain-eu-text-watermark/
相似文章
OpenAI 将开始为欧盟的 ChatGPT 文本添加水印
OpenAI 将在欧盟为 ChatGPT 和 Codex 生成的文本添加不可见水印以符合欧盟 AI 法案的透明度要求，同时发布名为 textGrain 的技术报告，但承认水印可被同义词替换等编辑削弱检测效果。
我们对欧盟文本溯源规则的应对方案
OpenAI 宣布其针对欧盟 AI 法案文本溯源要求的合规方案：在 API、ChatGPT 和 Codex 中分阶段推出名为 textGrain 的文本水印系统，同时对检测的局限性保持透明，并计划将该技术开源。
这篇文章完全由AI撰写，你能证明吗？
文章批判了AI生成文本的概念以及水印技术在证明AI参与方面的有效性，认为它可能无法捕捉人类贡献，并突出了定义‘AI垃圾’时的模糊性。
OpenAI 正在为 ChatGPT 和 Codex 添加文本水印功能
OpenAI 正在面向欧盟用户在 ChatGPT 和 Codex 中引入名为 textGrain 的不可见文本水印，以符合欧盟《人工智能法案》的要求；同时为全球 API 客户提供可选择加入的水印功能，并向经批准的研究人员开放检测器访问权限。
资源 - AI文本水印：工作原理与规避方法
本文介绍了一个教育资源，详细说明了AI文本水印的工作原理以及规避方法，内容由Anthropic和European Commission近期关于标记AI生成内容的公告触发。