@shaneparrish: “我们塑造工具,之后工具塑造我们”——约翰·卡尔金(John Culkin)在谈论马歇尔·麦克卢汉(Marshall McLuhan)时写道。关于AI的一个问题……
摘要
肖恩·帕里什(Shane Parrish)反思了AI水印与检测问题,认为人类正在快速适应像AI一样写作,使得水印技术变得不可靠。他引用了麦克卢汉“工具塑造我们”的观点,并得出结论:应该评判作品本身,而不是工具。
查看缓存全文
缓存时间: 2026/08/12 16:31
“我们塑造工具,然后工具塑造我们。” —— 约翰·卡尔金,谈及马歇尔·麦克卢汉时写道
AI写作水印的问题之一在于,人类正在以和AI学习模仿人类一样快的速度,学会像AI一样写作。
我的孩子们在课堂上不用任何设备,手写完成学校作文。然而我读的时候,它们看起来就像AI写的一样。事实上,他们之所以用手写,其中一个原因是老师们已经分辨不出区别了。
这怎么可能?
要向上第三方证明或证伪某样东西是由AI写的,几乎是不可能的。你可以自己试试。我曾把早期一本书的几页纸提交给一个AI检测引擎。它几乎确定地告诉我,我写的内容是AI生成的。唯一的问题是,那本书写于AI出现之前。
水印可以让某些单词和模式在AI生成的文本中出现得更具统计显著性,有可能在足够长的样本上产生一个非常微弱的信号。但人们会吸收这些模式,他们自己的模式也会随之改变。如果我的孩子们能说明什么问题的话,用不了多久他们就会更新自己内心的预测算法,开始给自己的文字打上水印。
这就是卡尔金和麦克卢汉的观点:我们创造的工具塑造了我们。
即使我们能可靠地证明使用了AI(事实上我们并不能),那也几乎说明不了输出内容的质量。拒绝用锤子的木匠,并不会把房子盖得更好,他只是让自己干得更慢、更累。
评判作品,而不是评判工具。
相似文章
你的AI不是工具
文章认为,将AI仅仅称为'工具'具有误导性;相反,AI应被理解为一种环境,它以意想不到的方式塑造和改变用户。作者批判了技术中立的神话,并警告说,即使谨慎使用AI,也可能对判断力和意识造成不利影响。
证明内容由人类撰写
作者反思了自己在编程中使用AI与选择手动写作的对比,强调了在创意表达中保留人类原创性的价值。
Anthropic的Claude模型中的‘水印’文本篡改是对写作的扭曲
本文批判了Anthropic使用隐写术在Claude模型的AI生成文本中添加水印的计划,这改变了文本的意义和质量,与其声称的不可感知性相矛盾。
@NickADobos:Anthropic对水印的回应证实了我最糟糕的担忧。'我们的水印方法没有任何实际影响…'
这篇文章讨论了Anthropic在其AI模型中实施水印以遵守欧盟AI法案,引发了对其可能改变内容含义并导致滥用的担忧。
AI工具真的让事情变简单,还是只是把要做的活儿换了种形式?
一篇反思性文章指出,AI工具把精力从“想点子”转移到“做评估”,并追问它们究竟是省时间,还是仅仅改变了工作的性质。