AI检测器正在制造一个充满不信任的新时代
摘要
本文探讨了AI检测器在教育领域日益广泛的使用及其引发的不信任氛围,重点指出了误报问题和AI生成文本检测的主观性。
<figure><img alt="一本正在被扫描以检查是否可能由AI生成的书籍" data-caption="" data-portal-copyright="Image: Cath Virginia / The Verge, Getty Images" data-has-syndication-rights="1" src="https://platform.theverge.com/wp-content/uploads/sites/2/2026/08/268680_AI_detection_CVirginia-.jpg?quality=90&strip=all&crop=0,0,100,100" /><figcaption></figcaption></figure><p class="wp-block-paragraph"><em>这是 </em><a href="https://www.theverge.com/the-stepback-newsletter">The Stepback</a><em>,一份每周通讯,剖析科技世界中的一个重要故事。想了解更多关于AI如何改变我们日常生活的新闻,请关注 </em><a href="https://www.theverge.com/authors/emma-roth"><em>Emma Roth</em></a><em>。</em>The Stepback<em> 会在美国东部时间上午8点送达订阅者的邮箱。要订阅 </em>The Stepback<em> </em><a href="https://www.theverge.com/newsletters"><em>这里</em></a><em>。</em></p><h2 class="wp-block-heading">它是如何开始的</h2><p class="wp-block-paragraph">早在ChatGPT出现之前,教育工作者和编辑们就经常使用反抄袭工具来检查作者是否诚实地对待自己的作品。这些工具通过将书面作品与一个包含网络、学术文章等内容的数据库进行比较,以检查是否有匹配的句子和短语。有些工具(如Turnitin)会提供一个百分比阈值……</p><p><a href="https://www.theverge.com/column/976690/ai-writing-detectors-suspicion">在The Verge阅读完整报道。</a></p>
查看缓存全文
缓存时间: 2026/08/09 14:18
# AI 检测器正在制造一个新的不信任时代
来源:https://www.theverge.com/column/976690/ai-writing-detectors-suspicion
*本文是**The Stepback**(https://www.theverge.com/the-stepback-newsletter)*,一份每周解读科技界一个核心故事的通讯。想了解更多关于 AI 如何改变我们日常生活的新闻,请关注**Emma Roth**(https://www.theverge.com/authors/emma-roth)*。*The Stepback* 会在东部时间上午 8 点送达订阅者的收件箱。在此处订阅*The Stepback*(https://www.theverge.com/newsletters)*。*
## 这一切是如何开始的
早在 ChatGPT 成为热门话题之前,教育工作者和编辑们就经常使用反抄袭工具来检查写作者是否诚实创作。这些工具的原理是将作品与一个包含全网内容、学术文章等的数据库进行比较,以检查是否有匹配的句子和短语。有些工具(如 Turnitin)会提供一个百分比,声称可以显示学生作业与其它作品的重合程度。由于可能存在误报,以及不确定作品是否被故意抄袭,一些教育工作者已经选择不再使用(https://www.npr.org/sections/ed/2014/08/25/340112848/turnitin-and-the-high-tech-plagiarism-debate)该特定工具。
但现在,对抄袭内容的追查正演变为一场对 AI 生成内容的战争。学生们使用(http://pewresearch.org/internet/2026/02/24/how-teens-use-and-view-ai/)ChatGPT、Google Gemini 和 Microsoft Copilot 的速度有多快,老师们采用所谓 AI 检测器的速度就有多快。民主与技术中心的一项调查(https://cdt.org/wp-content/uploads/2025/10/FINAL-CDT-2025-Hand-in-Hand-Polling-100225-accessible.pdf)发现,在 2024 至 2025 年间,美国有 43% 的六年级到十二年级教师经常使用 AI 检测器。一些已在学习管理系统中使用 Turnitin 的大学发现,该服务(https://discover.online.purdue.edu/news/2023/03/28%20-%20Turnitin%20adding%20AI%20writing%20detection,%20but%20instructors%20should%20use%20it%20with%20caution.php)在该工具于 2023 年上线时(https://www.turnitin.com/blog/2023-turnitin-wrapped)就自动启用了 AI 检测功能。
与比较书面内容不同,GPTZero、Pangram 以及 Turnitin 开发的 AI 检测器依靠它们自己的 AI 模型来猜测某些内容是否可能不是人类写的——这个过程可以说比匹配网络文本更加模糊。正如 GPTZero 所指出的(https://gptzero.me/news/how-ai-detectors-work/),AI 检测器使用算法来分析文本的措辞、节奏和结构,并捕捉在 AI 生成文本中可能更常见的长度和语气特征。这种相对主观的评估不如你可以通过在线文本匹配来佐证的方式那样可靠,而且可能会被以英语为第二语言的写作者干扰。尽管如此,Turnitin 表示(https://www.turnitin.com/blog/understanding-false-positives-within-our-ai-writing-detection-capabilities)其 AI 检测器将不到 1% 的人类书写内容误标记为 AI,而 Pangram 声称(https://www.pangram.com/blog/all-about-false-positives-in-ai-detectors)其误报率仅为万分之一。GPTZero 声称(https://gptzero.me/news/gptzero-vs-copyleaks-vs-originality/)其将人类内容误判为 AI 的概率同样极低。
## 现在的情况
网上的人们已经在互相指责对方"听起来像 AI"(https://www.theverge.com/openai/686748/chatgpt-linguistic-impact-common-word-usage),而 AI 检测工具的随处可得只会给这场大语言模型猎巫行动火上浇油。在一些备受关注的案例中,AI 写作指控直接影响了人们的生计和声誉。上个月,出版商 Minotaur 因担心其作者 Jerry Falade 使用了 AI 而取消了(https://www.theguardian.com/books/2026/jul/31/crime-novel-deal-collapses-questions-ai-jerry-falade-call-me-ill-hide-the-body)一笔 200 万美元的图书交易——Jerry 对此予以坚决否认(https://www.wsj.com/business/media/author-whose-2-million-book-deal-was-derailed-by-ai-concerns-says-hes-innocent-c9f4c91b?mod=e2li)。
还有法国公民 Thierry Rignol,他去年因一位教授指控他在期末考试的部分内容中使用了 AI 而起诉(https://arstechnica.com/tech-policy/2026/07/how-a-yale-ai-cheating-dispute-became-a-13-count-federal-lawsuit/)耶鲁大学,导致他考试不及格并被停学一年。该教授使用 GPTZero 扫描了 Rignol 的写作以寻找 AI 痕迹,但诉讼认为"AI 监控和检测工具已知会不公平地针对非英语母语者",如 Rignol。今年二月,Adelphi 大学的一名学生在教授同样声称他用 AI 写论文后,赢得了对学校的诉讼(https://www.insidehighered.com/news/quick-takes/2026/02/11/adelphi-student-wins-ai-plagiarism-lawsuit)。虽然诉讼中没有说明教授使用哪种 AI 工具检查学生的论文,但 Adelphi 大学与 Turnitin 签有许可协议(https://www.adelphi.edu/it-services/turnitin/)。
2023 年斯坦福大学的一项研究(https://hai.stanford.edu/news/ai-detectors-biased-against-non-native-english-writers)发现,AI 检测器将非英语母语者写的文章误判为 AI 的频率高于母语者。(许多(https://www.turnitin.com/blog/new-research-turnitin-s-ai-detector-shows-no-statistically-significant-bias-against-english-language-learners)服务(https://copyleaks.com/academic-integrity#:~:text=The%20Most%20Accurate%20for%20Non%2DNative%20English%C2%A0Speakers)仍然坚称(https://www.pangram.com/blog/how-accurate-is-pangram-ai-detection-on-esl)他们的工具在处理非母语者书写的文本时是准确的。)这些工具也可能对神经多样性写作者存在偏见(https://www.bloomberg.com/news/features/2024-10-18/do-ai-detectors-work-students-face-false-cheating-accusations?utm_source=website&utm_medium=share&utm_campaign=linkedin%3Fsref)(https://teaching.unl.edu/ai-exchange/challenge-ai-checkers/#:~:text=Students%20that%20are%20neurodivergent%20(autism%2C%20ADHD%2C%20dyslexia%2C%20etc%E2%80%A6)%20are%20also%20prone%20to%20receive%20false%20positive%20ratings)。
正如加州大学洛杉矶分校(https://humtech.ucla.edu/technology/the-imperfection-of-ai-detection-tools/)所指出的,AI 检测工具经过训练可以捕捉可能表明 AI 使用的模式,例如重复的词语和短语、听起来过于正式或过于随意的文本,以及不合逻辑的措辞。有些工具(如 QuillBot(https://quillbot.com/blog/ai-writing-tools/burstiness-and-perplexity/))还会衡量文本的"不可预测性",因为根据 UCLA 的说法,"与人类写作相比,AI 倾向于做出最'明显'或最常见的语言选择"。它们还可能寻找整篇文本中保持不变的句子结构,作为 AI 的另一个标志。但这些衡量标准本身并不能说明就是 AI,因为有些人可能恰好就是具有这些特征的写作风格。
尽管 Turnitin 标榜其误报率很低,但它坚持认为(https://guides.turnitin.com/hc/en-us/articles/22774058814093-Using-the-AI-Writing-Report)其工具"可能并不总是准确的",不应被用来对学生采取处罚措施。Grammarly 警告(https://grammarly.pxf.io/c/482924/2751036/31551?u=https%3A%2F%2Fwww.grammarly.com%2Fai-detector)用户"绝不应仅依赖 AI 检测器的结果",而 GPTZero 表示(https://gptzero.me/?via=bakima&gad_source=1&gad_campaignid=24013459161&gbraid=0AAAABBZAFqlmMOPrsIE7OfiH08aW-CHc4&gclid=CjwKCAjw4dDTBhAqEiwAkHYmSvAe68gs4ItAmiXJqccPnzyrtsiWhV4OJDIMqHa9HCj_2-XJb8SXuhoCVVkQAvD_BwE)"没有哪个 AI 检测器能真正做到 100% 完美"。OpenAI 甚至因其自家的(https://www.theverge.com/2023/7/25/23807487/openai-ai-generated-low-accuracy)AI 写作检测器准确率低而在 2023 年将其关闭。
但 AI 写作指控仍在网上四处飞溅。上周,Ozzy Osbourne 的儿子 Jack 在一段发布到他社交媒体频道(累计超过 350 万粉丝)的视频中(https://www.instagram.com/reel/DbOvUQDSgkz/),指控记者兼*Verge*撰稿人 Kat Tenbarge 使用 AI 为*Rolling Stone*撰写了一篇文章,并炫耀 AI 检测器 Getsolved 的结果作为其指控的"证据"。Tenbarge 在一段视频和她网站上的帖子中驳斥了这一指控(https://spitfirenews.com/p/jack-osbourne-ai-kat-tenbarge-allegations-debunked),但 Osbourne 既没有撤回指控,也没有删除视频,留下 Tenbarge 独自应对网络喷子。
从作家(https://authory.com/blog/how-ai-detectors-are-destroying-livelihoods)到学生(https://nymag.com/intelligencer/article/the-people-getting-falsely-accused-of-using-ai-to-write.html),虚假指控的例子(https://www.nytimes.com/2025/05/17/style/ai-chatgpt-turnitin-students-cheating.html)数不胜数(https://www.bbc.com/news/articles/cz7dnd9xypeo),而许多指控者并未注意到某些 AI 检测工具附带的使用声明。
## 接下来会发生什么
围绕 AI 检测器的不确定性已经足以让一些教育机构完全停止使用它们。耶鲁大学、约翰霍普金斯大学、范德比尔特大学(https://www.ft.com/content/49304b1e-8a9d-4fb6-bc4d-37dd3430bb98?syn-25a6b1a6=1)、乔治城大学(https://guides.library.georgetown.edu/ai/ethics#:~:text=Because%20generative%20AI%20tools%20do%20not%20generate%20large%20amounts%20of%20text%20word%2Dfor%2Dword%20from%20existing%20works%2C%20it%20can%20be%20difficult%20for%20automated%20tools%20to%20detect%20plagiarism.%20Georgetown%20does%20not%20currently%20use%20the%20AI%20detection%20feature%20of%20its%20plagiarism%20detection%20tool%2C%20Turnitin.)等学校已经禁用或限制了 AI 检测工具的使用。麻省理工学院也警告(https://mitsloanedtech.mit.edu/ai/teach/ai-detectors-dont-work/)说"AI 检测器并不好用"。
许多学校不再依赖工具来筛除 AI,而是鼓励教育工作者重新思考他们的教学设计。芝加哥大学(https://genai.uchicago.edu/resources/faculty-and-instructors/strategies-for-designing-ai-resistant-assignments)例如,建议告诉学生放慢阅读速度,将较长的写作任务拆分成多个部分,并要求学生对他们的作业进行反思。斯坦福大学表示教授们(https://ctl.stanford.edu/aimes/ai-teaching-strategies#ai-prohibited)可以考虑在教室里进行考核,而 MIT 建议(https://mitsloanedtech.mit.edu/ai/teach/ai-detectors-dont-work/)教授们留出空间,让学生可以披露他们是否在作业中使用了 AI 帮助,而不受惩罚。
随着 AI 在课堂内外越来越普及,辨别内容是由人类还是机器撰写的努力也在加剧。一些在线平台正在进一步加剧围绕 AI 使用的怀疑。Substack 已将 Pangram(https://www.theverge.com/ai-artificial-intelligence/968855/substack-pangram-ai-detecting-tool)集成到其应用中,允许用户扫描博客以检查疑似 AI 生成的内容,而 LinkedIn 在帖子上增加了(https://www.theverge.com/ai-artificial-intelligence/973384/linkedin-seems-like-ai-slop-button)一个"看起来像 AI 垃圾内容"的按钮。结果是进入了一个新的不信任时代,读者不断质疑他们正在阅读的内容是否由 AI 生成,而真正的人类写作者则尽力让自己的文字听起来不像 AI。
## 顺便一提
- 作者协会(Authors Guild)正在帮助作家(https://www.theverge.com/news/602918/human-authored-book-certification-ai-authors-guild)通过颁发"人类作者"认证来提前应对指控。还有 Not by AI(https://notbyai.fyi/)和 Written by Human(https://notbyai.fyi/)徽章,用户可以添加到他们的在线作品中。
- 维基百科创建了一份指南(https://en.wikipedia.org/wiki/Wikipedia:Signs_of_AI_writing),帮助编辑识别 AI 写作,其中包括寻找"夸大"某个主题重要性的文字,或提供"对信息的肤浅分析"的文字。该网站也已禁止(https://www.theverge.com/tech/901461/wikipedia-ai-generated-article-ban)AI 生成的文章。
## 延伸阅读
- *纽约时报*有一个有趣的测验(https://www.nytimes.com/interactive/2026/03/09/business/ai-writing-quiz.html),让你看五对段落,然后选择你更喜欢哪一段——窍门在于其中一段是由 AI 写的。
- *Inside Higher Ed*(https://www.insidehighered.com/news/tech-innovation/artificial-intelligence/2026/08/05/ai-detectors-are-out-new-approaches-are)采访了一些教育工作者,了解他们在学校中如何应对 AI,其中一位讲师对"防 AI"作业可能投入的成本和资源表示担忧。
- 我的同事 Jess Weatherbed 详细报道了同人小说社区如何在自己内部关于如何判断哪些故事是由 AI 生成的这个问题上进行着斗争(https://www.theverge.com/tech/960854/ai-fanfiction-ao3-claude-detector)。
**关注本故事中的话题和作者**,以便在您的个性化首页信息流中看到更多类似内容,并接收电子邮件更新。
- Emma Roth
相似文章
AI 检测工具根本不可靠
一项非正式实验测试了多款 AI 检测工具,发现它们的结果前后矛盾且不可靠:有时会将人类撰写的文章标记为 AI 生成,有时又会漏掉真正的 AI 生成文本。作者认为,这种不可靠性对学生和投稿者来说是一个严重问题,因为他们的作品可能会被这些工具错误判定。
指控性AI:AI技术的广泛误用如何伤害学生
文章讨论了AI检测工具并不可靠,且被教育工作者滥用来惩罚学生,导致错误的作弊指控。文章强调,此类工具不应作为惩罚的唯一证据,并指出了透明度和适当评估的必要性。
AI检测器是个糟糕的想法
本文认为,AI检测器和水印技术存在问题,因为它们忽视了作品背后的人类努力,并降低了AI生成文本的质量。
@rohanpaul_ai: AI检测器行业在阅读这份MIT报告时应感到非常不安。最强的机构反对声音……
一份MIT报告强烈建议不要依赖AI检测器,理由包括与AI人性化器的军备竞赛、误报伤害学生、以及对非英语母语者和神经多样性个体的不公平影响。
为何AI检测在学术诚信中失效
本文评估了学术环境中的商业AI检测器,发现对AI辅助的人类写作存在高误报率,而通过人性化工具(humanizers)几乎可以完全规避检测,因此得出结论:检测分数不应作为不当行为的独立证据。