OpenAI 正在为 ChatGPT 和 Codex 添加文本水印功能

# OpenAI 正在 ChatGPT 和 Codex 中引入文本水印 Source: https://www.theverge.com/ai-artificial-intelligence/1004880/openai-chatgpt-text-watermarks-eu-ai-act Stevie Bonifield (https://www.theverge.com/authors/stevie-bonifield) Stevie Bonifield 是覆盖消费科技各类话题的新闻撰稿人。Stevie 最初在 Laptop Mag 撰写硬件、游戏和人工智能领域的新闻与评测。 文本输出中的不可见、机器可读水印（https://openai.com/index/eu-text-provenance/）正逐步推广至 ChatGPT 和 Codex，不过初期仅面向欧盟用户。 OpenAI 表示，其 textGrain 水印方案的"表现达到或超过了" Google DeepMind 的文本版 SynthID 等其他方法；后者也是 Anthropic 于 8 月宣布的水印技术所基于的基础（https://www.theverge.com/ai-artificial-intelligence/980869/anthropic-claude-watermarks-synthid-text-system）。与 OpenAI 一样，Anthropic 此举同样是为了满足欧盟《人工智能法案》（https://www.theverge.com/ai-artificial-intelligence/974571/eu-ai-act-transparency-labels-rules-deepfakes）的要求；然而，并非所有人都对这一新功能感到满意。 OpenAI 还公布了 AI 基准测试的分数，显示带水印与不带水印的文本在表现上不相上下。但它也指出，textGrain"并不能保证可靠的检测"，并表示文本水印无法验证内容准确性、无法确定文本归属、无法衡量人工参与程度，也无法证明出自人类之手。 > **在欧盟推出文本水印。**未来几周内，我们将仅面向欧盟地区、在各套餐方案下符合条件的 ChatGPT 和 Codex 用户中引入文本水印。我们不会在发布时将文本水印设为全球默认功能。这一区域性做法让我们有机会从真实使用场景和用户反馈中不断学习。**为 API 客户启用可选水印功能。**从今天起，全球范围内的 API 客户将可以针对部分模型选择启用带水印的文本输出。这使得客户能够自行决定水印如何契合其透明度义务，以及如何融入他们为用户提供的体验。我们也正与云合作伙伴协作，将在未来数周内通过其服务提供的 OpenAI 模型输出中开放水印功能。**向研究人员和专业机构开放检测工具访问权限。**获批的研究人员和专业机构从今天起即可申请。按照《行为准则》的要求，访问权限将依据具体案例逐一批准，以支持文本溯源的评估与改进。该工具仅会报告是否检测到 OpenAI 水印，不会指明用户身份，也不会泄露其提示词或对话内容。鉴于存在漏检和误报的风险，我们在发布时不会将其公开提供。 **关注本报道的话题和作者**，即可在你的个性化主页信息流中看到更多相关内容，并接收邮件更新。 - Stevie Bonifield