我们正在为用户提供新的方式，以识别 AI 生成的图像并了解其来源。

除了 C2PA 内容凭证外，图像现在还包含 SynthID 水印，并且可以通过公共验证工具来检查图像是否由 OpenAI 产品生成。

推进内容溯源：构建更安全、更透明的 AI 生态系统

来源：https://openai.com/index/advancing-content-provenance/ 人们每天都在使用 OpenAI 的工具，以更富表现力、更实用、更易获取的方式创建和编辑图像与音频。随着这些工具成为人们构建、想象和分享的一部分，让人们能够理解和验证媒体来源，以便更自信地解读内容，这变得至关重要。溯源信号可以通过提供内容来源、创建或编辑方式，以及内容是否如其所宣称的那样等背景信息来提供帮助。

今天，我们通过一种多层次、生态系统驱动的方法来加强内容溯源，以构建在线信任。我们通过符合 C2PA 标准，使其他工具和平台更容易识别我们的溯源信号；通过与谷歌的合作，在图像中添加持久的跨平台 SynthID 水印；并预览了一个公众可以用来验证图像是否来自 OpenAI 的工具。

这些更新共同建立在我们之前工作的基础上（https://openai.com/index/understanding-the-source-of-what-we-see-and-hare-online/?utm_source=chatgpt.com），以支持开放标准，使 OpenAI 生成的内容更易于识别，并与行业合作以支持更可信的信息生态系统。

通过 C2PA 合规性构建信任生态系统

OpenAI 自 2024 年以来一直参与溯源标准的制定和采用，当时我们开始在 DALL·E 3（在新窗口中打开）（https://cdn.openai.com/papers/DALL_E_3_System_Card.pdf）生成的图像中添加内容凭证，随后又在 ImageGen（在新窗口中打开）（https://cdn.openai.com/11998be9-5319-4302-bfbf-1167e093f1fb/Native_Image_Generation_System_Card.pdf）和 Sora（在新窗口中打开）（https://deploymentsafety.openai.com/sora-2/provenance-and-transparency-initiatives）中引入。我们还加入了内容溯源与真实性联盟（C2PA）的指导委员会，该联盟是内容溯源开放技术标准背后的跨行业组织。C2PA 的技术方法使用元数据和加密签名，使关于媒体片段的信息能够安全地与内容本身一起传播。这些信息包括帮助评估来源的记者、做出完整性决策的平台，以及试图理解他们在网上所看到内容的人所需的背景信息。

我们最近迈出了一步，使 OpenAI 成为 C2PA 合规生成器产品（在新窗口中打开）（https://c2pa.org/conformance/）。通过符合 C2PA 标准，我们为平台提供了一种可信的方式来读取、保留和传递我们附加到内容上的溯源信息。这很重要，因为溯源只有在其超越内容创建的第一个平台后仍然存在时才有效，而合规性使这成为可能。

结合谷歌 SynthID 图像水印的多层次溯源方法

C2PA 元数据是溯源的重要基础。它帮助内容携带关于其来源、创建或编辑方式以及签名者信息的信息。但元数据并非万无一失。它可能在上传和下载过程中被剥离、丢失，或因文件格式更改、调整大小或屏幕截图等转换而被破坏。

为了使溯源更具韧性，我们采用多层次方法，通过谷歌 DeepMind 的 SynthID（在新窗口中打开）（https://deepmind.google/models/synthid/）引入水印，首先从 ChatGPT（https://openai.com/index/introducing-chatgpt-images-2-0/）、Codex 或 OpenAI API 生成的图像开始。SynthID 嵌入了一个不可见的水印层，补充了 C2PA 基于元数据的方法。

我们为此已经努力了一段时间。我们已经在 Sora 中使用了可见水印（https://openai.com/index/launching-sora-responsibly/），在 Voice Engine 中使用了音频水印（https://openai.com/index/expanding-on-how-voice-engine-works-and-our-safety-research/），并通过部署持续测试和研究了准确性和可靠性。

这两个系统相互加强。C2PA 帮助内容携带详细的上下文；SynthID 则在元数据无法保留时帮助保存信号。水印在屏幕截图等变换中可能更持久，而元数据能提供比单独水印更多的信息。二者结合使溯源比任何单一层都更具韧性。

能够抵抗大多数修改的可信元数据和水印可以使溯源信号更持久。但人们需要一种检测这些信号的方法。我们现在预览一个公共验证工具（https://openai.com/verify），它将帮助人们验证上传的图像是否是在 ChatGPT、OpenAI API 或 Codex 上生成的，通过检查图像是否包含溯源信号，包括内容凭证和 SynthID。

我们相信溯源应该更容易让人们验证和解释，并且我们的工具可以通过整合多种信号帮助人们参与回答“这是否由 AI 生成？”的问题。这建立在 2024 年我们的图像检测分类器（https://openai.com/index/understanding-the-source-of-what-we-see-and-hare-online/）的初步研究预览的基础上，并使人们能够可靠地检测媒体中是否存在源自 OpenAI 的 SynthID 水印，并在发现 C2PA 元数据时将其呈现出来。

OpenAI 网页显示上传图像的验证结果，确认基于检测到的 SynthID 和内容凭证信号，该图像是由 OpenAI 工具生成的。

没有检测方法是万无一失的，因此在检测失败的情况下我们采取谨慎的态度。例如，如果未检测到元数据或水印，该工具不会对图像是否由 OpenAI 工具生成做出明确结论，因为溯源信号在某些情况下可能被剥离。

在发布时，该工具仅限于 OpenAI 生成的内容。在接下来的几个月里，我们计划支持跨行业的努力，使验证能够在不同平台上进行。随着时间的推移，我们还希望支持人们可能在线上遇到的更多类型的内容。

展望未来

没有单一溯源技术能够独自胜任。我们相信一个强大的方法结合了共享标准、持久的水印信号和公共验证。通过建立在长期对内容凭证支持的基础上，符合 C2PA 标准，采用 SynthID，并预览公共验证工具，我们希望长期为一个更可互操作的溯源生态系统做出贡献。