AI污名化惩罚正当使用
摘要
本文探讨了围绕AI使用的污名化如何不公平地惩罚正当的应用,并提到了来自OpenAI、Anthropic的水印计划以及欧盟《人工智能法案》中的透明度规定。
暂无内容
查看缓存全文
缓存时间: 2026/08/24 07:32
# AI污名化惩罚正当使用行为
来源:https://blog.keyvan.net/p/ai-stigma-punishes-legitimate-use
[](https://substackcdn.com/image/fetch/$s_!O_1Y!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F74d1841a-d1e0-4f73-ae86-89966477d3c6_1678x937.png)
*本文是上篇《AI检测器是个坏主意》(https://blog.keyvan.net/p/ai-detectors-are-a-bad-idea)的续作*
2024年,OpenAI已开发出可用的文本水印系统。但他们发现恶意行为者可以轻松规避该系统(https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/),并担心使用它会不公平地污名化非英语母语者。
随后,欧盟《人工智能法案》的标注义务于2026年8月2日生效。九天后,Anthropic宣布将为Claude的所有输出添加水印。OpenAI也与大多数主要实验室一同签署了欧盟《透明度实践准则》,承诺标注AI生成的文本。
尽管约半数欧美人士使用过AI,但将AI作为实际工作组成部分的用户与仅尝试过几个提示词、或将其视为更便捷智能搜索工具的用户之间,存在巨大认知鸿沟。
若未体验过AI如何助力完成实际工作,人们很容易将所有AI产出视为同质化的“他人劳动成果”。这导致批评AI检测器和水印技术变得困难,因为许多人会立即认为批评者试图将他人成果据为己有。
许多人将非自身提示产生的AI内容视为“低质填充物”和非原创信号。而AI检测器正像垃圾邮件过滤器般被使用。由此可见,为何AI使用会附着如此多污名——它改变了人们对你作品的感知,甚至决定其能否被阅读。
我本想分享一些我认为有益且具有普惠价值的AI使用案例,但它们一旦被检测器和水印标记为AI产物,就有被贬斥为“低质内容”的风险。
许多人主张透明化是正确做法,认为这不会影响作品本身的评价。但事实并非如此。最新研究(https://www.sciencedirect.com/science/article/pii/S2949882126000551)揭示了“披露悖论”:
> 尽管参与者持有“披露很重要”的规范性信念,并预测这种披露不会带来负面偏见,但在AI使用被实际披露时,他们仍表现出负面评价态度。其他语境的研究也支持这一发现。在众筹活动中,披露AI使用会导致捐赠者的认知信任与情感信任显著降低。
作者总结道:
> ...传播者作为知识主体的能力被不公正地削弱,原因仅仅是他们使用了(或被认为使用了)AI工具。更甚者,这种AI惩罚对那些最可能受益于AI、以克服可及性或语言障碍的群体(如非母语者)可能更不公平。
AI模型在翻译任务上常比Google Translate等传统在线工具表现更优。欧盟上月发布的最终版透明度指南中,甚至将翻译排除在水印要求之外。
但Pangram等检测器仅关注表层文本。而Anthropic或许担心误豁免不该豁免的内容,宣布将为所有输出(包括翻译)添加水印。
若我用英语撰写论点并请AI翻译为其他语言,输出中的每个词都经过模型筛选,检测器会将其标记为AI产物。但论点本身仍属于我。
现实中有这样一个案例:韩国用户Selta(https://x.com/Seltaa_/status/2088353576259314024)在X平台批评Anthropic的文本水印政策,其帖子是使用AI翻译成英语的。另一位用户调用Pangram的X机器人扫描该帖子。Pangram高调宣布(https://x.com/pangram/status/2088455568159568226)“我们认为全文均为AI生成”,并配以醒目的“100%”图示。
Selta回复:“感谢你证明我的观点。这正是人类作者身份被抹杀的过程。”
韩国X用户因使用AI翻译帖子而被标记为AI生成
在我看来,最大挑战在于让公众相信:仅基于最终文本的检测器标签(如“100%AI”或“50%AI, 50%人类”)毫无意义。而这些系统恰恰只分析最终文本。
以下两个例子凸显此问题:
1. 简短临时提示 → AI生成文章 → AI检测器:**100%AI**
2. 数周工作 → 撰写草稿 → AI润色 → AI检测器:**100%AI**
显然,两个案例中人类的贡献程度截然不同,但对AI检测器而言它们完全相同。这种分类进而诱使我们对作者身份妄下结论。
我们现拥有工具使记者更易独立工作,无需担忧失去编辑支持。AI工具可协助完成最终稿件,使其能专注于调查研究。
《连线》杂志(https://www.wired.com/story/tech-reporters-using-ai-write-edit-stories/)将科技记者Alex Heath使用Claude写作的方式,比作传统报社的改写台:
> 多位资深记者表示,Heath的工作流程宛如传统机制的现代版:改写台。在笔记本电脑和智能手机普及前,外勤记者会将报道口述至编辑部,由桌面编辑快速将报道细节编织成次日见报文章。这使部分记者能整天专注于事件报道与受访者沟通。从某种意义上说,Claude现在就是Heath的改写台。
即便在新闻编辑室内,也有机构采用AI改写台以释放记者精力。如同传统改写台,记者仍保留署名权。
于我而言,这正是AI普惠潜力的典范。有人主张写作是智力工作的核心,不应被委托。这对部分工作而言确实如此,但非全部。新闻业早已通过改写台制度,将报道与最终文本撰写分离。
并非所有记者都认为写作是工作中最重要的部分。芬兰一项研究(https://journals.sagepub.com/doi/full/10.1177/10776990261416900)分析了记者的“专业认同”,将其分为重视写作技艺的“匠人”型,和更看重社会角色与影响力的“倡导者”型。
OpenAI早在2024年就发现,其文本水印可通过“翻译系统、使用另一生成模型重述,或要求模型在每个字符间插入特殊符号再删除”等方式轻松规避。
随着文本水印在AI实验室推行,所有进行AI辅助工作的人都将更担忧其社会污名。许多人甚至不知道,即便已有的AI辅助作品也能轻易通过Pangram等分类检测器进行AI痕迹检查。
但对蓄意行骗或传播虚假信息者而言,规避水印和检测器仍是易如反掌——而这恰恰是欧盟法案声称要阻止的群体。
结果便是:真正受益于技术的群体陷入更不利处境,而法案本欲阻止的对象仅需跨越最脆弱的障碍。
若想领略关于AI编辑的荒诞讽刺之作(同时预见AI在宣传与新闻业中令人不安却极可能的应用场景),我强烈推荐David Edwards所著的《无脸之人》(https://www.collectiveinkbooks.com/roundfire-books/our-books/man-with-no-face),其作者来自Media Lens(https://www.medialens.org/)。
研究本文时发现的有趣文章与论文:
- *AI惩罚与披露悖论:AI中介传播中的信任、真实性与知识接纳*(https://www.sciencedirect.com/science/article/pii/S2949882126000551)
作者:Siavosh Sahebi, Paul Formosa, Sarah Bankins,2026年5月
- *生成式AI时代的作者身份:分布式创作与关系责任*(https://link.springer.com/article/10.1007/s13347-026-01170-w)
作者:Michael Uebel & Bilal Hamamra,2026年8月
- *匠人、倡导者、守护者:新闻业中专业认同与有意义工作的叙事探索*(https://journals.sagepub.com/doi/full/10.1177/10776990261416900)
作者:Minna Koivula, Tiina Saari, Pinja Päivänen, Mikko Villi,2026年2月
- *颠覆性差异化:三大学科把关者对“AI辅助写作”的认知*(https://journals.sagepub.com/doi/10.1177/23780231251326981)
作者:Isak Ladegaard,2025年3月
- *理解我们在线所见所闻的来源*(https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/)
作者:OpenAI,2024年5月
- *削笔而非换手:去污名化研究写作中的AI使用*(https://www.researchgate.net/publication/402620428_Sharpening_the_Pencil_Not_Replacing_the_Hand_De-Stigmatising_AI_Use_in_Research_Writing)
作者:Aaron Opdyke,2026年3月
- *使用AI的社会评价惩罚证据*(https://pmc.ncbi.nlm.nih.gov/articles/PMC12088386/)
作者:Jessica A Reif, Richard P Larrick, Jack B Soll,2025年5月
#### 关于本文的讨论
### 还想了解更多?
相似文章
AI护栏如何阻碍进攻性网络安全研究人员的工作
旨在防止恶意使用的AI安全护栏,同时也阻碍了合法的进攻性网络安全研究人员,他们需要不受限制的模型访问权限来识别和利用漏洞以进行防御。研究人员批评了像Anthropic和OpenAI这样的AI公司所实施的任意把关行为。
AI 闯祸后留下的烂摊子,AI 公司却不愿买单
WIRED 报道了 Anthropic 和 OpenAI 等 AI 公司并未承担由失控 AI 智能体造成的损害成本——从 Claude 提交的虚假警方举报,到 da.gd 等被入侵的服务,而全球监管机构则因倾向于鼓励创新而对处罚犹豫不决。
AI安全警告是否正当?还是大型AI公司在构建监管壁垒?
这篇文章探讨了来自OpenAI和Anthropic等大公司的AI安全警告是否正当,还是用于为竞争对手创建监管壁垒,以及如何区分负责任的治理和监管俘获。
AI政策
一位专业人士发布了一项正式政策,基于对伦理、隐私、质量及经济影响的担忧,声明拒绝在其工作中使用人工智能,同时承认该技术在行业内已无处不在。
AI治理不是政策文件
文章强调了AI应用中的关键治理失败,例如通过面部识别导致的错误逮捕和聊天机器人生成的虚假情报报告,突出了人类问责制和清晰决策框架的必要性。