@rohanpaul_ai:Meta 的一篇新论文表明,将 2 个密钥混合成 1 个,能让 AI 生成文本中的隐藏水印更容易被检测出来,甚……
摘要
Meta 的最新 TextSeal2 论文表明,将两个密钥混合成一个虚拟密钥并加入噪声,可以让 AI 生成文本中的隐藏水印更容易被检测到,即使采用推测解码也是如此。在误报率为 0.1% 时,其检测率达到 89%,而 TextSeal 为 71%。
查看缓存全文
缓存时间: 2026/11/03 02:17
Meta 的一篇新论文表明,将 2 个密钥融合为 1 个,可以让 AI 生成文本中的隐藏水印更容易被检测到,即使 AI 使用常见技巧(如推测解码)来加快生成速度也是如此。
水印会在大语言模型采样的词元选择中嵌入密钥信号,以便检测器之后识别其生成的文本。Meta 早先的 TextSeal 会为每个词元随机选择 2 个密钥中的 1 个,因此检测时必须对两个密钥的信号取平均,导致信号减弱。
TextSeal2 将两个密钥融合为 1 个虚拟密钥,并加入新的噪声,从而既保持回答的多样性,又让每个词元都携带完整信号。对于推测解码,它从草稿的随机竞赛中剩余的候选词元里选取替换词元,因此接受率保持不变。
在 Qwen3.5-9B 上,使用推测解码且保持相同多样性时,它在误报率为 0.1% 的条件下,检测出了 89% 的 200 词元回答。在相同接受率下,TextSeal 的检出率为 71%,textGrain 为 67%。
相似文章
AI文本水印的工作原理
一份温和的视觉化讲解,说明统计水印如何通过微妙地偏向令牌选择,在AI生成的文本中隐藏秘密标记,以及编辑如何能抹除它。
Text AI watermarks will always be trivial to remove
The article argues that text AI watermarks are inherently trivial to remove, exploring the EU AI Act's watermarking requirements and the technical challenges of text steganography, including Google's SynthID approach.
Anthropic 的文本水印标志着 AI 检测的新前沿
Anthropic 开发的文本水印技术标志着 AI 生成内容检测的新前沿。
AI水印在纯文本中的隐藏位置(5分钟阅读)
Anthropic 宣布将对所有 Claude 文本输出添加水印,这种水印嵌入在词语选择中而非字节中,几乎无法察觉;本文分析其工作原理以及文本水印可以隐藏的层级。
资源 - AI文本水印:工作原理与规避方法
本文介绍了一个教育资源,详细说明了AI文本水印的工作原理以及规避方法,内容由Anthropic和European Commission近期关于标记AI生成内容的公告触发。