支持欧洲确保可信AI生态系统的工作

# 支持欧洲构建可信AI生态系统的工作 来源：https://openai.com/index/supporting-eu-trustworthy-ai-ecosystem/ 人们正以新的方式使用AI来创作和编辑内容。随着这些工具能力越来越强、应用越来越广，人们应当了解自己在网上看到的内容的相关背景。 今天，在欧盟委员会发布《AI生成内容透明度实践准则》\(opens in a new window\) (https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content) 之后，OpenAI宣布支持该准则及其背后的愿景。该准则是落实《欧盟AI法案》、构建更透明数字生态系统的重要一步。 我们的支持建立在多年的内部研究、产品开发以及与更广泛生态系统的合作之上，旨在加强对AI生成内容的来源追溯。自2024年起，OpenAI就开始开发并采用来源标准 \(opens in a new window\) (https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/)，当时我们在DALL·E 3图像生成工具中添加了C2PA元数据。此后，我们通过改进标记和检测方法、开展新研究，并发布了首个公开验证工具 \(opens in a new window\) (https://openai.com/index/advancing-content-provenance/)，持续加强来源追溯能力。凭借多年的专业知识，我们与数百家其他利益相关方共同参与了该准则的制定，助力构建可信AI生态系统。 这进一步巩固了我们在欧洲AI治理方面的整体方针。2025年，OpenAI成为首家签署欧盟《通用AI实践准则》\(opens in a new window\) (https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) 的美国公司，这体现了我们的信念：清晰、可行的规则有助于AI负责任地发展，同时为企业提供持续发展的确定性。我们以同样的精神支持这一新准则。提升AI生成内容的透明度是生态系统层面的努力，需要价值链上各参与方的贡献。《欧盟AI法案》和该准则都认可了这一点，我们承诺履行适用于我们相关产品的要求，尽自己的一份力。 ## 为何来源追溯至关重要 随着AI工具成为人们创作、想象和分享的一部分，人们能够了解内容来源并自信地解读内容变得至关重要。来源信号可以通过提供内容来源、创建或编辑方式以及内容是否名副其实等背景信息来提供帮助。来源追溯还有助于保护数字生态系统，使检测虚假信息活动和支持选举公正 \(opens in a new window\) (https://openai.com/index/election-safeguards-2026/) 更加容易。 有效、可靠且鲁棒的来源方法应集体构建，并在生态系统中发挥作用。这就是我们与C2PA等联盟合作的原因，该联盟汇聚了新闻机构、设备制造商、在线平台和AI提供商，共同推进互操作性标准。C2PA元数据是来源追溯的重要基石。它帮助内容携带关于其来源、创建或编辑方式以及签署该信息者的信息。但元数据并非万无一失。它可能被剥离，在上传和下载过程中丢失，或因文件格式更改、调整大小或截图等转换而失效。 ## OpenAI的多层来源追溯方法 为了使来源追溯更具韧性，OpenAI采取了多层方法，结合了不同的信号、产品保障措施以及与更广泛生态系统的合作。我们目前的工作包括： - **图像的C2PA内容凭证**\(opens in a new window\) (https://c2pa.org/)**：** 我们开始为ChatGPT和OpenAI API中使用DALL·E 3创建和编辑的图像添加C2PA元数据，并持续扩展OpenAI生成图像的来源信号。 - **OpenAI生成图像的多重信号：** 使用ChatGPT、Codex和OpenAI API生成的图像同时包含C2PA元数据和SynthID \(opens in a new window\) (https://openai.com/index/advancing-content-provenance/) 水印。元数据可以携带更丰富的信息，而水印有助于在跨场景中保留信号。 - **公开验证体验：** openai.com/verify \(opens in a new window\) (https://openai.com/research/verify/) 允许人们检查支持的图像是否包含与OpenAI生成图像相关的来源信号。 - **对开放标准的贡献。** 2024年，OpenAI加入了C2PA指导委员会 \(opens in a new window\) (https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/)，这是一个跨行业的工作，涉及软件公司、相机制造商、媒体组织和在线平台。 - **产品保障措施：** 来源追溯补充了政策、分类器、举报渠道和执行流程，这些措施减少了AI生成内容的欺骗性使用，包括肖像滥用和选举相关欺骗。 ## 让内容透明度在实践中发挥作用 尽管来源追溯有用，但它仍是一个新兴领域。信号在内容在线传播时可能会丢失：元数据可能被删除，水印可能退化，标签只有在人们遇到内容时才有帮助。提高来源技术的可靠性、鲁棒性和互操作性，仍然需要生态系统内的重大工作和合作。 实践准则指明了正确的方向：为提升来源技术设定高远目标。在实施过程中，它应立足于实际有效的方法，并保持灵活性以反映当前技术的局限性。 OpenAI将继续加强我们各产品的内容透明度，为互操作性标准的制定做出贡献，并改进验证工具。我们期待与AI办公室、欧盟成员国以及更广泛的AI社区合作，共同构建一个更安全、更透明的AI生态系统。