在我看来，水印在智能代理情境中的效果可能不佳

Reddit r/ArtificialInteligence 新闻
watermarking agentic-ai ai-detection text-editing security ai-output

摘要

本文认为，在代理式AI情境中，水印可能失败，因为最终输出通常涉及编辑，使得文本不连续，从而干扰水印检测。

据我所知，水印在很大程度上依赖于单词前紧邻的上下文。然而，在代理任务完成的情境中，最终成品通常不代表代理生成的单词序列。也许在初稿中，代理会生成一段可以加水印的文本块，但当代理返回编辑文档时，它会通过javascript或python编辑html代码。因此，通常最终pdf中看到的几个前词并不是之前的词，例如" ', 'old_str': 'Section 7 of the "。正因如此，当最终文档（如pdf）创建时，其中的文本并不代表AI的连续输出，因此水印会失败。
查看原文

相似文章

AI检测器是个糟糕的想法

Reddit r/ArtificialInteligence

本文认为，AI检测器和水印技术存在问题，因为它们忽视了作品背后的人类努力，并降低了AI生成文本的质量。

深入理解LLM水印技术对AI代理行为的影响

Hacker News Top

本文分析了LLM水印技术，特别是SynthID-Text，如何通过引发采样漂移影响AI代理行为，进而影响模型拒绝和工具调用，对AI安全与法规合规带来影响。

AI文本水印的工作原理

Hacker News Top

一份温和的视觉化讲解，说明统计水印如何通过微妙地偏向令牌选择，在AI生成的文本中隐藏秘密标记，以及编辑如何能抹除它。