我们对欧盟文本溯源规则的应对方案

# 我们对欧盟文本溯源规则的应对方式 来源：https://openai.com/index/eu-text-provenance/ 内容溯源（https://openai.com/index/advancing-content-provenance/）帮助人们了解内容的来源、创建或编辑方式，以及其中是否包含与我们模型相关的信号。我们已经公开推出工具，可用于识别由我们模型生成的图像和音频。今天，我们将分享为回应欧盟《人工智能法案》而制定的文本水印方案，以及该方案如何融入我们的整体工作。 欧盟《人工智能法案》要求生成式 AI 提供者以机器可读的方式标识生成文本。文本水印与检测技术仍处于早期阶段，存在明显局限，业界对其益处与负责任使用方式的看法也在不断演进。我们的分阶段方案既响应了欧盟《人工智能法案》的要求，也正视了技术本身的局限，重点在于透明地说明文本水印能做什么、不能做什么： - 从今天起，全球 API 客户将可以为部分模型选择启用文本水印功能。文本水印在 API 中默认关闭。 - 在接下来的几周内，我们将为欧盟境内符合条件的 ChatGPT 和 Codex 文本输出添加不可见水印。 - 我们将开放文本水印检测器的访问申请。初期访问权限仅限于经批准的研究人员和专家机构，以帮助我们评估和改进这项技术。 - 以上内容仅适用于文本溯源。我们的音频和图像验证工具（包括我们的 [openai.com/verify](https://openai.com/verify) 网页工具和[内容溯源 API](https://developers.openai.com/api/docs/guides/content-provenance)（在新窗口中打开））将继续向组织公开，以帮助其判断图像或音频文件是否由我们的系统生成。 ## 我们的水印技术如何运作及其表现 我们的文本水印技术 textGrain 会在模型的词汇选择中添加一个不可见的统计信号。我们的检测器通过寻找该信号来评估某段文本是否包含 OpenAI 水印。关于 textGrain 工作原理的更多细节，可在我们的[技术报告](https://cdn.openai.com/pdf/e9508624-d767-41b6-a26d-e34ca798ada6/textgrain-entropy-calibrated-watermarking-for-language-model-text.pdf)（在新窗口中打开）中找到，该报告将在未来几周内更新更多细节。我们也计划将该技术开源，以便他人在此基础上进行开发。 在我们的评估中，textGrain 的表现达到或超过了我们测试的其他方法，包括面向文本的 SynthID。即便如此，理想条件下的优异表现并不能保证在日常使用中实现可靠检测。 检测器可能出现两类错误：在没有水印的地方报告存在水印（误报），或漏掉实际存在的水印（漏报）。以下评估说明了其中的一些挑战： - **较短或受限较多的文本更难检测。**在 1% 的目标误报率下，我们的检测器对心理学等内容的 200 token 文本段落检出水印的比例约为 80%，而对 400 token 文本段落的检出比例约为 95%。对于数学等内容（其词汇选择空间较小），检测率明显更低。 - **编辑会削弱水印。**在一项针对 400 token 文本段落的评估中，将 10% 的词语替换为同义词后，检测率从约 92% 降至 66%；替换 25% 的词语后，检测率进一步降至 17%。 这些局限是我们决定仅向经批准的研究人员和专家机构提供初始检测器访问权限的原因，以帮助我们评估其可靠性和负责任的使用方式。 下图展示了在 1% 的目标误报率下，对 ELI5 数据集（在新窗口中打开）(https://huggingface.co/datasets/rexarski/eli5_category) 中数学和心理学问题的带水印回复的检测结果。检测率随文本长度增加而提升，但对于词汇选择空间较小的内容（如数学），整体检出率明显更低。 编辑会显著削弱水印信号。下图展示了替换文本段落中 10% 或 25% 的词语对检测率的影响。结果基于对 ELI5（在新窗口中打开）(https://aclanthology.org/P19-1346/) 中问题的带水印英文回复。 ### 水印对输出质量的影响 在我们用于评估 Astra（我们最新的前沿模型）的各项基准测试中，我们未发现启用水印与不启用水印之间存在有意义的性能差异。 ## 文本水印无法告诉你的事情 文本水印只能提供有限的信号，反映我们的系统在某段文本中发挥了何种作用。重要的是要理解检测结果能得出什么结论、不能得出什么结论。 - **水印不衡量人类贡献。**它可以表明 OpenAI 系统生成或处理了某段文本的一部分，但无法说明其中融入了多少人类判断、编辑或创作。 - **水印不确立所有权或责任。**它无法确定文本归谁所有、使用是否合法、是否需要披露，以及谁应对此负责。 - **水印不标识用户。**它不会将某个人、组织、账户、提示词或对话与该文本关联起来。 - **水印不验证内容准确性。**它无法告诉你某段文本是真实的、具有误导性的、有害的，还是在正确的语境下呈现的。 - **未检测到水印并不能证明该文本由人类创作。**使用 OpenAI 工具生成的文本可能因过短、经过编辑或翻译而无法被可靠检测。它也可能来自尚未支持的模型、早于水印功能上线，或由其他公司的工具生成。 ## 我们的下一步计划 - **在欧盟推出文本水印。**在接下来的几周内，我们将仅在欧盟为各付费计划中符合条件的 ChatGPT 和 Codex 用户引入文本水印。我们不会在推出时将文本水印设为全球默认设置。这种区域性方法让我们有空间从真实使用场景和用户反馈中学习。 - **为 API 客户启用可选水印功能。**从今天起，全球 API 客户将可以为部分模型选择启用带水印的文本输出。这让客户自行决定水印如何满足其透明度义务以及所面向用户的体验。我们也在与云合作伙伴合作，计划在未来几周内通过其服务访问的 OpenAI 模型输出中提供水印功能。 - **向研究人员和专家机构开放检测器访问权限。**经批准的研究人员和专家机构可从今天起[提交申请](https://openai.com/form/content-provenance-api/)。根据[行为准则](https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content)（在新窗口中打开），访问权限将按个案逐一批准，以支持文本溯源的评估与改进。该工具只会报告是否检测到 OpenAI 水印，不会识别用户身份，也不会透露其提示词或对话内容。鉴于存在漏检水印和误报的风险，我们不会在推出时将其公开提供。 随着技术、标准和证据的不断演进，我们将重新审视该方案的每一个环节。 ## 我们更广泛的内容溯源方法 没有任何单一溯源技术能够独立发挥作用，因此我们采用分层方法，将开放标准、持久水印和验证工具相结合。 我们会为支持的图像输出添加内容凭证（Content Credentials），[符合 C2PA 规范](https://c2pa.org/conformance/)（在新窗口中打开），在支持的图像和音频中嵌入不可见的 [SynthID](https://deepmind.google/models/synthid/)（在新窗口中打开）水印，并通过 [openai.com/verify](https://openai.com/verify) 和我们的[内容溯源 API](https://developers.openai.com/api/docs/guides/content-provenance)（在新窗口中打开）提供图像和音频验证功能。这些技术相互补充：内容凭证可以记录文件的来源和历史，而不可见水印则可以在元数据被移除时保留信号。 正如我们在[选举安全工作](https://openai.com/index/election-safeguards-2026/)中所述，溯源可以帮助人们和平台评估可能具有误导性的 AI 生成内容，包括深度伪造内容。我们将这些信号与政策、滥用检测、举报、调查和执法相结合，并与研究机构、标准制定机构、平台和民间社会合作，使溯源在整个更广泛的生态系统中发挥作用。 将溯源扩展到文本，需要考虑到文本很容易被重写、翻译或编辑。正如我们在[6 月](https://openai.com/index/supporting-eu-trustworthy-ai-ecosystem/)所讨论的，我们的方法必须反映当前技术的实际局限。我们将继续改进检测技术，研究水印如何抵御编辑和翻译，并探索更有意义地将 AI 辅助与 AI 创作区分开来的方法。我们将随着证据、标准和监管要求的变化调整方案，并在认为结果可以被负责任地解读时扩大检测器的访问权限。 有关更多信息，请访问我们的[帮助中心文章](https://help.openai.com/articles/8912793-provenance-signals-content-credentials-synthid-in-openai-generated-content)（在新窗口中打开）。