关于Claude的新水印

Reddit r/artificial 新闻

摘要

一篇批评性观点文章,认为Anthropic在Claude生成的文本中加入隐形水印对恶意用户无效,同时不公平地污名化诚实用户,并质疑该公司因此获得的集中权力。

今年八月,Anthropic终于正式宣布了这件事。从现在开始,Claude生成的每一段文本都会被缝入一个无形的数字标签。你看不见它,也感觉不到它。但它就在那里——深藏在统计噪声中,等着任何持有正确密钥的人来解锁。公司把这件事包装成某种公共服务,是送给那些分不清人类文本到哪里结束、机器文本从哪里开始的迷茫大众的礼物。他们自然有一个词来形容:“透明度。”我也有几个词,但大多数都不适合登出来。 先从显而易见的事实说起:这没用。一点用都没有。Anthropic想贴在你文本上的统计水印,去除难度大约相当于撕掉T恤上的标签。改写一下,翻译一下,或者用竞争对手的模型跑一遍。搞定,水印就没了。你楼里的骗子、在Telegram上买论文的人、造假新闻的运营者——他们早就知道这一点。他们不会被抓到。谁会被抓到?你。那个用Claude重新组织一段话的学生,那个请AI总结两百页访谈记录的记者,那个遇到创作瓶颈而向AI要同义词的作家。这些人经过这个过程后,额头上就多了一个数字纹身。猜怎么着?这个纹身上面写着的不是“由AI制作”,而是“经AI处理”。这两者不同,非常不同。Anthropic知道这一点。他们甚至承认过:检测到水印并不能证明文本是机器人写的,也许它只是帮忙改了一个逗号。但到了紧要关头,没人会去读那些细则。 这就是肮脏的把戏:我们正在工业规模上颠倒举证责任。以前,指控者必须证明有罪。现在,水印本身就是证据。那么没有水印呢?好吧,没有水印什么都说明不了。文本可能是开源模型生成的,也可能是旧版Claude生成的,什么都有可能。所以我们这里构建的是一个完美的系统:它污名化诚实的人,却放过不诚实的人。这种愚蠢几乎带有一种诗意。 而且还不止于此。还有权力问题。谁控制检测密钥?Anthropic。一家公司。一家旧金山企业,如今要在全球范围内决定什么是“真实的”、什么是“经处理的”。他们说会公开技术细节。真可爱。但检测基础设施是他们的,解释权也是他们的。我们正把叙事的钥匙交给出售锁具的人。你知道这让我想起什么吗?那些只抓吸毒者、却放过毒贩的警方行动。水印也是一回事。想用AI欺骗的人会用开源模型,把文本送去数字洗车房,或者雇一个改写服务。他是受保护的。而普通用户——那个只是想要一个能写得更好的工具的人——将成为唯一胸前带着标记的傻瓜。 还有污名。天哪,那种污名。想象一下,你投出一份简历,公司检测出“哦,这家伙用了AI”。想象一下,你交上论文,导师看到了那个小红旗。我们正在制造一个“肮脏”创作者阶层——那些敢于使用工具的人。就好像90年代的作家因为使用文字处理软件就变成贱民,就好像摄影师因为用Photoshop就成了骗子。最糟糕的是,这一切还包着礼物纸。“这是为你好。”“这是透明度。”“这是《欧洲人工智能法案》。”欧洲从什么时候开始有权决定我的文本在巴西会怎样?布鲁塞尔的法律从什么时候起成了全球标准,就因为一家美国公司不想失去市场份额?我们正在让另一个大陆的官僚为我们的创造力制定规则。 还有先例问题。今天管的是文本,明天就是代码,后天就是电子邮件。接着是你给妈妈发的消息,是你凌晨三点睡不着时打的日记。一切都需要一个审批印章。一切都需要对向我们出售思维工具的企业保持“透明”。 真相比他们想让你相信的更简单。没有人需要隐形水印才能知道某段文字是AI写的。我们早就知道了。我们能感觉到。我们需要的是人的辨别力、教育、情境判断。我们不需要的是数字种姓制度——使用正确工具的人是头等公民,使用错误工具的人就是嫌疑人。 而真正刺痛人心的是——一个显而易见的解决方案就摆在我们面前,而且不需要一行代码。老师想知道学生是不是真的写了那篇论文?可以。在教室里布置作业,把手机锁进抽屉,电脑运行受限系统,无法访问Claude、ChatGPT或任何其他工具。看着孩子手写完成,或者在一台只能运行Word、其他什么都不能用的机器上完成。这不是什么高深科学——在硅谷说服我们每个问题都需要技术解决方案之前,考试就是这么运作的,大约持续了三百年。如果目标是真正的评估,那就创造一种环境,让真实的工作成为唯一的选择。你不需要隐形水印、企业检测密钥,也不需要裹着欧盟监管语言的监控机器。你需要的是一间教室、一支笔,和一个用心的老师。在这场讨论中,似乎没有人愿意把这句话说出口——这一事实足以告诉你,到底谁才是这场水印马戏的真正受益者。 然而,在策划这场秀的人眼中,人的辨别力有一个致命缺陷。你无法把它打包,无法按API调用次数出售,无法把它输入仪表盘然后看着指标攀升。它存在于混乱、不可预测的人脑中,而不是干净的服务器机架上。如果这个系统的设计者们有一件事无法忍受,那就是一个他们无法掌控的流程。剥去新闻稿和监管语言,忘掉关于透明度和公众信任的说辞,剩下的就是真正重要的一件事。他们想要那个开关。他们想要成为决定什么才算真实的人。
查看原文

相似文章

Claude 的新“红字”水印暂时不可见

Ars Technica

Anthropic 宣布将对其 Claude 模型处理的所有内容(不仅仅是 AI 生成的文本)添加隐形水印,以符合欧盟《人工智能法案》。这种“焦土”式做法可能连仅经过轻微编辑的人类文字也会被打上标记,引发对过度干预和恶意行为者易于规避的担忧。