你的AI使用正在搞垮我的大脑:为什么10分钟的提示就能让我们废掉[D]

Reddit r/MachineLearning 新闻

摘要

一篇个人随笔讨论了过度使用AI工具如何导致认知过载和精神疲劳,引用了BCG、Wired和其他来源的研究,表明AI会增加脑力劳动并导致技能萎缩。

现在是凌晨2:30。我最小的孩子刚刚哭着要水喝,完全打断了我试图调试一个奇怪边界案例的思路。我盯着IDE,又盯着终端里运行的本地模型,再回头看IDE。我的大脑感觉像一团无法恢复的浆糊。我以为只是普通的睡眠不足。结果发现,确实有研究支持我感受到的一切。现在流行一句话叫“你的AI使用正在搞垮我的大脑”,老兄,我深有体会。我自动化一切。这在线下线上都是我的人设。我写脚本,串联API,部署代理,这样我就能在下午5点合上笔记本。但最近,我的工作流程完全变了。我不太像在编程,更像是在激进地微观管理一群数字实习生。根据最近从Wired、BBC和Countercurrents流出的大量数据,这种多工具的高度监督正在从根本上改变我们大脑处理工作的方式。来看看实际数据。最近的研究中有一个有趣的区分:倦怠和大脑烧焦。它们不是一回事。当我们用AI替换重复的样板或日志解析时,倦怠分数实际下降了约15%。这说得通。这正是我们被许诺的梦想。但关键来了:认知负荷却上升了。为什么?因为我们不是在干活,而是在监督。想想你提示LLM时发生了什么。你让它构建一个React组件。它几秒钟内吐出150行代码。现在你必须阅读它,解析其逻辑,寻找幻觉,并弄清楚它如何与你现有的状态管理集成。阅读和验证别人的代码——尤其是机器人的——需要一种完全不同且极其费力的认知带宽。最近BCG的一项研究一针见血:在正常任务之上良好地使用AI,会让工作变得双倍甚至三倍的费力。我们看到更多自我报告的错误,仅仅是因为我们的工作记忆完全过载了。然后是技能萎缩问题。Wired刚刚强调了一项研究,指出仅仅依赖AI 10分钟就会对你的思考和解决问题能力产生负面影响。十分钟。这比我试图说服Opus4.7不再捏造废弃的API端点的时间还短。BBC采访的研究人员指出了一些可怕的事情。如果你不实际进行思考,你的那种思考能力就会萎缩。这是一块肌肉。我们正把它打上石膏。我上周注意到了这一点。我试图编写一个输入验证的基本正则表达式。一年前,我会想两分钟然后直接敲出来。这次,我立刻Alt-Tab切换到CC,粘贴需求,然后等待。它给出了一个略有缺陷的正则表达式。我又提示了一次。它又给了一个。我花了五分钟和一个模型争论我本来能原生完成的事。我的大脑走了最小阻力路径,卸载了逻辑,然后陷入了监督循环。我最终在凌晨2点发布了代码,仍然是坏的。《财富》杂志的一篇文章将其完美地框定为空间问题。技术消耗了我们更多的整体认知处理空间,因为我们用额外的提示填满了每一个“节省”出来的时间槽。我们不再有微休息了。当你手动编码时,你会暂停。你望向窗外。你打字。当你使用AI时,生成是即时的。你立刻被推入验证阶段。你的大脑从不休息。这是一个无休止的请求-审查循环。Aruna和Xingqi对200名员工进行了为期八个月的民族志研究,发现AI使用加剧了工作,而不是让它更容易。我们正陷入认知卸载的陷阱。我们认为自己在节省时间,但只是把物理打字时间换成了高强度的脑力处理时间。就像把长距离散步换成了高强度的间歇冲刺。确实,你更快到达,但你已经完全精疲力竭了。我不是说我打算停止使用这些工具。昨天仅仅在数据库迁移脚本上它就帮我省了3小时。但我们必须谈论这种生产力的隐藏成本。我们把大脑当作无限RAM,打开更多的上下文窗口,最终系统会崩溃。我们正在从创造者变成编辑,从工程师变成随机鹦鹉的中层经理。认知失调是真的。如果我还要再花一小时审查一个格式完美但逻辑有微妙错误的Python脚本,我可能就要回到不用插件的Vim里写所有东西了。你们是如何管理这种负荷的?你们给AI使用设定时间盒了吗?你们是否强迫自己在求助之前先写初稿?如果你们找到了既能减少认知负荷又不牺牲速度的工作流程,请告诉我。因为现在,我的心理带宽正在耗尽,而我明天还得想办法让我学步的孩子吃蔬菜。
查看原文

相似文章

你的AI使用正在让我大脑崩溃

Simon Willison's Blog

Jason Koebler 探讨了在充斥着 AI 生成内容的互联网中浏览所付出的心理代价,并创造了“僵尸互联网”一词,用以描述人类、机器人与 AI 智能体在网上互动时那种复杂且令人疲惫的混合状态。

仅使用AI 10分钟就可能让你变懒变笨

Hacker News Top

来自MIT、Carnegie Mellon、Oxford和UCLA的研究人员开展的一项新研究发现,仅使用AI聊天机器人10分钟,一旦脱离AI,就会显著削弱人类的毅力与问题解决能力。研究结果表明,有必要设计能够为学习提供支架式辅助的AI系统,而非仅仅直接给出答案。

研究人员向1222名受试者提供AI助手,10分钟后将其撤走。表现迅速跌至对照组之下,且参与者彻底放弃尝试。加州大学洛杉矶分校、麻省理工学院、牛津大学与卡内基梅隆大学将其称为“温水煮青蛙”效应。

Reddit r/artificial

一项涵盖1222名参与者的多机构研究显示,短期使用AI助手(约10分钟)会导致认知能力出现可测量的衰退,且在后续任务中的努力程度低于对照组,该现象被称作“温水煮青蛙”效应。该研究提供了因果证据,表明即便是短期的AI依赖,也可能削弱独立解决问题的表现。