AI检测器是个糟糕的想法

# AI检测工具是个坏主意 来源：https://blog.keyvan.net/p/ai-detectors-are-a-bad-idea [](https://substackcdn.com/image/fetch/$s_!q2fP!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Ffa89b3bb-6505-4077-8007-b9b5089c1d93_1024x572.jpeg) 近期关于文本水印技术的讨论甚嚣尘上，这使得AI实验室得以充当AI检测工具。目前已经存在非水印形式的AI生成内容检测方式（例如Pangram）。我认为这些方式都是错误的。 核心问题在于：这些系统完全无法衡量作品在输入AI模型前经历了多少心血锤炼。然而人们却急于用它们将他人的创作贬斥为AI生成的垃圾内容。 在AI出现之前，敷衍的写作早已存在。但如今，有人花费数日、数周甚至数月思考问题、构建论证体系，其最终由AI润色完成的成果，却可能被轻易打上AI垃圾的标签而遭到否定。再比如那些母语非英语的创作者，使用AI翻译自己的文字作品，同样会因这些检测工具而被贴上粗制滥造的标签。 文本是否由AI模型生成，根本无法反映其背后的创作价值。而像Pangram这样的公司没有动力去大声疾呼这一点，因为这会削弱对其检测工具的需求。 AI水印技术则更为恶劣。实验室虽未公开承认，但其本质机制是：将模型本会自然生成的词汇替换为出现概率更低——即质量更差——的替代词。John Gruber在其近期文章中称之为"对写作的掺杂与扭曲"（https://daringfireball.net/2026/08/anthropics_watermark_text_adulteration_in_claude_is_a_perversion_of_writing）。 若你对这类技术原理感兴趣，我制作了一个简化的交互式解说器供你体验（https://watermarking.mochi.is/）。下方附有演示短片。 #### 关于本文的讨论 ### 还想了解更多？