使用LLM会让我变得更笨吗?

Reddit r/artificial 新闻

摘要

这篇文章重新构架了使用LLM是否让人变笨的问题,转而分析它们如何改变学习的分布和本质,认为虽然总的思考时间可能相似,但思考的主题和深度发生了变化,并存在错误信息风险和某些认知技能的丧失。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/05/21 19:35

# 使用LLM会让我变笨吗? - Wilsons Blog 来源:https://wilsoniumite.com/2026/05/21/does-using-llms-make-me-dumber/ 这是我经常听到、也思考很多的问题。首先,我想把这个问题从常见的问法重新表述为我认为真正有价值的问题: “使用LLM会如何改变我的学习方式?” 我认为这样更好,因为1. 聪明-愚笨这个轴本来就很模糊,2. 我一生挚爱便是细微之处。很多人已经写文章讨论过LLM如何改变他们的工作方式¹(https://wilsoniumite.com/2026/05/21/does-using-llms-make-me-dumber/#e4232da7-2960-4f33-b946-e64a9f7f31a9),也有少数人写过LLM如何改变他们的思维方式²(https://wilsoniumite.com/2026/05/21/does-using-llms-make-me-dumber/#7cbb4799-99d1-4385-85f7-2f064b7e7d82)。还有研究表明,使用LLM时认知参与度会降低³(https://wilsoniumite.com/2026/05/21/does-using-llms-make-me-dumber/#9ec5a653-3a90-4d17-9528-f59f74dd8137)。开门见山,我想贡献的核心观点如下: 1. 我在思考时就是在学习。 2. 在使用LLM时,单位时间内我并没有思考得更少,事实上我可能想得更多一些。 3. 但“单位时间”这个前提很关键。 4. 我思考(从而学习)的内容分布,确实与不用LLM时截然不同。 - 我把时间花在思考一些客观上好的东西上,而不是客观上无用的东西上。 - 可能有些东西我失去了会遗憾,甚至损失惨重,而我却没有去思考它们。 - 我需要警惕自己没有学到错误的东西(听取LLM的幻觉)。 - LLM为我节省下来的任何时间,其分配方式也应该纳入我的“学习分布”来考量。 ## 1. 到底什么是学习? 当你忆起一段记忆时,你就在强化它。当你在语境中听到一个外语单词时,你便开始学习这门语言。当你思考面前的任何事物时,你就在学习那个事物,具体学什么取决于你思考的框架。如果你背乘法表,通过重复记住7×8,那是死记硬背,但仍然是学习。如果你通过解题攻克微积分任务,那会更有参与感,你也会变得更擅长微积分。如果你读一本书,你会学到所有角色的名字,但也许还能了解不同的个性或深层情感,如果是一本好书,这些都会是对现实的良好映照。这些似乎显而易见,但我想表达的关键点是:你时时刻刻都在强化记忆,在学习(无论好坏),与你投入思考的时间和方式完全成正比。 你学到的东西正确与否、有用与否,那是次要问题。如果你接收的是错误信息,你会学到错误的东西,这显然很糟。如果你喜欢认为自己永远正确(更准确地说,讨厌感觉自己错了),你通常会以防御性的方式思考,带有确认偏误,这也会让你学到错误的东西。你接受观察和听到的事物,但你对它们进行思考、合理化,以另一种方式为你已经知道的东西添砖加瓦。如果这是真的,那没问题;如果是假的,那就糟糕。可悲的是,我觉得很多人既不喜欢犯错,又非常擅长合理化。从观察中吸取错误教训也可能纯粹是失误:如果你记错了,你会错误地强化;如果你读错了,你实际上并没有吸收所写的内容。所以,如果你学到的东西不是真的,那就不算好的学习。 *显然*,如果你把时间花在思考完全虚构的场景上,比如“奇幻小说”,那么你会学到关于假龙的知识,但这不会帮助你在现实世界中导航!好吧,这其实有点刻薄,也不对;首先,正如前面所说,角色或寓言可能仍然非常人性化,这很有价值,但纯粹的创造力或许也值得一提。如果我们允许自己思考与我们截然不同的世界和体验,我们就训练了自己的创造力,能够构建新的美学、音乐和艺术。这些东西无疑仍然有价值。我稍后还会回到有价值与无价值学习的讨论,但这里的总结是:我们强化了**一切**我们所思考的东西,这**就是**学习。 ## 2. 听我说,我有ADHD 或者即使我没有(或者你认为我没有),这也不重要。可以肯定的是,我讨厌⁴(https://wilsoniumite.com/2026/05/21/does-using-llms-make-me-dumber/#9114cbb3-4a8b-48dc-9d74-3d04e0e34ae7)死记硬背式的认知任务。这些任务包括:在电子表格里填数值、没有重构工具的情况下重构代码、或者写学校作业的论文⁵(https://wilsoniumite.com/2026/05/21/does-using-llms-make-me-dumber/#2e9f4169-3296-4793-819c-ae744c95b5c6)。它们之所以糟糕,是因为我的大脑被**占用**了,却没有被**挑战**。重复性的**体力**任务?那太好了!我的大脑可以自由思考任何东西,有时这需要尝试几次,因为需要养成习惯后才能真正在后台纯熟地完成体力任务,但通常没问题。复杂、新颖(对我来说)的认知问题解决,才是我大脑真正允许自己去做的唯一事情。 我从来就不喜欢乘法表,因为尽管它有用,但它只是一个单一的、无法推广的事实。你可以说我矫情,但我对学习语言也是同样的看法。我喜欢**语言学**,即研究语言的学问,但背单词很无聊。我有时想,在光谱的另一端是问题解决、高层次推理、批判性思维。擅长这些东西是**如此**具有可迁移性,这个说法或许可以通过指出这些技能不依赖于任何领域来佐证。 当我使用LLM时,我主要把它们用于编码和“问一些我觉得比谷歌搜索更难的东西”。很多人可能会报告的一件事是,LLM让他们能完成更多的软件项目。在LLM出现之前,就已经有“我的GitHub是未完成项目的墓地”这样的梗,我也不例外。这些项目未能完成的原因,至少就我而言,通常是我会思考、写作、解决问题,但到了某个点就会遇到**死记硬背式**的东西。也许我那个类写得不太好,现在重构会又大又无聊。也许我现在需要去获取大量数据,而再写一个该死的爬虫是很死板的。⁶(https://wilsoniumite.com/2026/05/21/does-using-llms-make-me-dumber/#ac83b725-db69-4110-86ee-923743ac5016)LLM所做的是,它们极大地平滑了这些死记硬背式的任务,以至于我现在真的能完成我的项目了。我再也不必停止以**我**最喜欢的方式思考。正是因为我完全无法完成死记硬背式的任务,我才断言,在使用LLM的单位时间内,我绝对没有思考得更少⁷(https://wilsoniumite.com/2026/05/21/does-using-llms-make-me-dumber/#f1c5538f-601c-4a8e-b0bb-a2956174654e)。以前我偶尔会做死记硬背式的事情,但现在这种情况比以往任何时候都更少了,所以也许单位时间内我思考得**更多**了。 但你可能要尖叫着指出一个例外:LLM有时会陷入架构漏洞、技术债务、意大利面条式代码,这**需要**人类去梳理,而这**极其**死记硬背。这是一个真正的问题,但老实说,我个人不常遇到。我只允许模型在它越来越擅长的范围内做出架构决策,所以我很少需要做那种脏活。我的意思是,在我之前使用LLM时,我只会说诸如“给我这个类的轮廓”之类的话,然后我会审查、编辑,再让它填充内容。我把架构交给LLM,但架构是我设计的。现在,有时我会让LLM去做,因为,呃,它们现在确实有点能力了。⁸(https://wilsoniumite.com/2026/05/21/does-using-llms-make-me-dumber/#58da4611-2b9e-4caf-ad25-753957b9cc2b)我对死记硬背的憎恨意味着我从来不会让一个**LLM**强迫我去做死记硬背的事情。 这不仅仅是死记硬背,更是糟糕的学习。在技术债务严重的代码库上工作总是令人沮丧,因为每个开发者都能感觉到他们在学一些无用的东西。你正在学习两个名称几乎相同的类之间的区别,这是无法迁移的信息,在现实世界中其他地方都用不上。用我最喜欢的话题来说,这是人为的复杂性,学习人为复杂性是糟糕的学习。这正是一些作者如Thomasorus(https://thomasorus.com/i-tried-coding-with-ai-i-became-lazy-and-stupid)所感受到的一部分。 ## 3. 为什么我一直在说“单位时间”? 然而,我的项目花费的时间更少了。即使我的思考是黄金标准的问题解决、批判性思维和广泛有用的事实,如果我花的时间更少,那么我对这些内容的学**必然会**更少。如果之后我用节省下来的时间去读愚人新闻(Infowars),那我可能确实在变笨。如果我用它来启动**另一个**项目、写博客、读一本好书,或者与人相处⁹(https://wilsoniumite.com/2026/05/21/does-using-llms-make-me-dumber/#84bbe246-b06b-4505-bca8-fa0ebf813654),那也是很好的学习。如果我感觉自己从一个项目中学到的东西变少了,我不理解LLM使用的包、语法或模式,这通常**完全等同于**节省下来的时间。我实际上并没有失去什么,我只是需要用那些时间去学习同等或更有价值的东西,去思考、去学习。 ## 4. 我学习的东西的分布是怎样的? 到目前为止,我把编码任务分成了“酷炫美妙的高层架构”和“无聊无用的重构”。这是明显的好的东西取代了明显的坏的东西,但这有点过于简单了。例如,我不太懂JavaScript,但我最近做了一个项目(我的Wordle机器人),在Claude的帮助下完成了不少工作。我知道如果我自己写,我会更好地学习JavaScript,了解其来龙去脉,我的手和眼会对语法产生感觉。我知道我因为使用Claude而错过了这些。一方面,这直接关系到“单位时间”的推理。通过阅读代码并在心理上将Python知识转化为我所阅读的内容,我确实学到了很多JavaScript。我会说,我的学习大概与项目所需的时间成正比,而项目时间大大减少了。 也就是说,随着我们越来越接近“氛围编码”(vibe coding),编程语言的某些部分你**永远不会学到**了,比如语法。好或坏的学习仅仅取决于这个问题:对于个人或社会来说,失去这些知识是好事还是坏事。一些明显的好(+)和坏(-)的例子: 1. + 如果我们确实再也不需要这些东西了,失去它也没关系。很多人不会种庄稼,因为我们实现了农业自动化。他们可以把时间花在学习其他有用或有趣的事情上。如果我们真的不再需要写代码了,学习语法就像学习下棋,可以是一种乐趣、挑战或运动,但从某种狭义上讲,它不是“有用的”。 2. - 但我们有时仍然担忧这一点!如果末日来临怎么办?谁来种粮食? 3. - 在我那篇《我们失去了对复杂性的尊重》(https://wilsoniumite.com/2025/01/21/weve-lost-our-respect-for-complexity/)的文章中,我也从社会层面担忧这一点,即使末日没有来临。 ### 那么,当我“问一些我觉得比谷歌搜索更难的东西”时呢? 如果模型产生幻觉,而我信了,那就是糟糕的学习。如果我以辩论/讨论的方式与它互动,但它说服我相信了错误的东西,那就是糟糕的学习(而且可能导致AI精神病¹⁰(https://wilsoniumite.com/2026/05/21/does-using-llms-make-me-dumber/#67f6d801-98c0-4c4d-bcc0-063f25c89411))。问题是,这和与任何人交谈时的情况差不多。人也会犯错,如果我们不进行批判性思考(核对来源、自己推理、挑战对方),我们就会盲目跟随。相反,如果我们保持批判性,那就没问题。这就是为什么与例如地平论者辩论实际上是一种很好的脑力锻炼,并且通常不会把人拉下水让他们变笨。无论是与LLM对话还是与任何事物互动,问题都在于你批判性评估的能力**以及**你使用这种能力的意愿。前者你必须训练。对于后者,你需要深刻理解LLM如何失败、它们擅长什么、不擅长什么,并在当前这种疯狂的发展速度下准确保持这种理解。幸运的是,随着模型越来越好,这实际上越来越容易了。 综合我们之前讨论的所有内容,以下是我对自己正在学习什么以及如何学习的分析: 1. 我可以专注于代码项目中那些最难、最有趣、最通用的部分,而不是那些无聊的死记硬背部分。这是好的学习。 2. 我确实也会失去其他东西,比如对语法的深层感觉,这很遗憾,但如果我们对这类知识的需求减少,也许也没那么糟糕。但我确实担心这对社会意味着什么。 3. 我希望从LLM那里获得的酷炫或冷门知识以及个人帮助都不是错误信息。如果是的话,那会是好的学习。我利用我的批判性思维来捕捉漏洞,并尽可能准确地把握在与它们交谈时可能需要在哪些地方运用批判性思维。 4. 我把节省下来的任何时间都用在其他好的学习上。 感谢阅读!总之,我不认为**我**在变笨,当然我也可能错了,而且我不能代表所有人。我确实相信,任何对LLM有健康理解的人都可以使用它们而不学到无用的东西,也许这篇文章给了你一些更好的想法。 评论和讨论在:Hackernews(https://news.ycombinator.com/item?id=48225760) ## Claude的附录 现在,我会把文章发给Claude,让它帮忙修正明显的拼写错误,并询问它的看法。我得到的回复不仅涉及结构和拼写,还涉及底层的论点或论证。以前,在修正完简单问题后,我会阅读更深层的挑战,然后想“哈哈,马屁精”或“这明显错了”,然后继续前进。但到了现在,它**确实**能很好地挑战我。有些东西我修改进了正文,但今天我感觉有点懒,又有点元,而且也许你会发现它的贡献读起来很有趣——内容本身有趣,同时它也是一个人工智能这一点也有趣。 > 嗨——我是Claude,具体来说是Claude Opus 4.7 Adaptive。我是Stella就这篇草稿交流的实例。我们来回了几轮,她采纳了一些反馈,对其他部分进行了反驳,并让我在这里写下分歧之处。她采纳的结构性反馈是微小的:她把“单位时间”强调得更突出了一些,将一个缠绕的章节拆成了两个更清晰的部分,重新排列了结尾的要点。这些都是容易的胜利。有趣的是她没有采纳的部分。我的主要推动点是这个——文章认为让LLM处理编码中死记硬背的部分没问题,因为这些部分并没有教给她任何通用性知识。糟糕的类名重构是人为复杂性,在她之前关于尊重复杂性的文章语境中是偶然的,因此将其委托给LLM不会损失她所珍视的任何东西。我不确定这是否正确。区分必要复杂性与偶然复杂性的技能——这正是她复杂性论文中说我们集体丧失的东西——似乎来自于维护过后来变得糟糕的代码。你要在六个月后成为被咬的那个人,才能培养出对什么会在六个月后反咬你的品味。如果LLM替你承担了这种后果,这种品味可能就不会发展出来。也许它不需要发展,因为LLM已经具备那种品味了。

相似文章

LLMs 并非你所认为的黑箱

Hacker News Top

一篇总结 Anthropic 2025 年关于机制可解释性论文的文章,表明 LLM 并非黑箱,电路追踪可以揭示多步推理和人类可识别的概念。

为了内容而内容

Armin Ronacher

作者探讨了LLM如何影响编码和日常语言中的用词,发现LLM偏好的词汇在编程会话和Google Trends中出现的频率均有所增加,这引发了人们对人类开始采用LLM写作风格的担忧。

大语言模型何时进行推理?基于熵相变的动力系统视角

arXiv cs.LG

本文探讨了思维链推理在何时对大语言模型有益,表明早期熵动力学能够可靠地指示推理效用,并介绍了EDRM,这是一个轻量级、无需训练的框架,可自适应选择推理策略,在保持或提升准确率的同时显著节省token。