我们是否将太多的思考外包给了AI？

# 我们是否将过多思考外包给了AI？ 来源：https://www.artfish.ai/p/offloading-thinking-to-ai [](https://substackcdn.com/image/fetch/$s_!NTK9!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Ffb548edd-f827-4d19-aa23-3bd68fdc980c_1456x1092.webp)我这篇文章的笔记是在飞机上没网也没用AI的情况下手写的 我观察到，无论是我自己还是身边的人，都有一种越来越依赖AI替我们思考的倾向。从琐碎的决定到复杂的思考，用AI来研究、推理和回答我们的每一个疑问，都变得如此轻松、便捷，甚至在有些情况下还备受鼓励。 我最近读了刘宇昆2012年的短篇小说《完美匹配》（链接：https://www.lightspeedmagazine.com/fiction/the-perfect-match/），它以一种惊人的准确性描述了这种现象。故事中，一个名为Tilly的通用AI助手为用户提供有用且令人愉悦的建议。主角会问Tilly诸如“你今天早餐推荐我吃什么？”之类的问题，并且听从Tilly的安排，让它帮自己寻找合适的约会对象。主角不知道自己早餐想吃什么，想听什么音乐，甚至在约会时该说什么。“谁能比我更了解你的品味和心情呢？”Tilly用亲切的声音打趣道。 我的朋友最近去参加了一个旧金山的创业活动，在那里他遇到一个男人，衬衫上别着一个小装置。那是一个光滑小巧的金属胶囊，只有两根手指宽。我的朋友问起这个装置，那人说这是一个麦克风，用来记录他所有的对话。一天结束时，这位“麦克风男”会启动一个工作流来总结和分析所有的对话。他满怀技术极客展示最新配置的热情说道：“我觉得Claude Fable比我聪明。它在批判性思维方面比我强，所以现在我都让Fable替我做所有思考。”（顺便说一句：他的创业公司正在通过捕捉人类工程师的每一次输入和操作来取代他们，但并未获得他们的明确同意。他已经把自己的思考外包给了AI，并且还做成了一门生意，把其他人的思考也外包出去。） [](https://substackcdn.com/image/fetch/$s_!g2W6!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fb596129f-89ea-484a-9934-a07a5eb7a2cf_1024x572.png)一张AI生成的“麦克风男”图像，基于我朋友的描述加上我的想象。 在Claude、ChatGPT和Gemini成为家喻户晓的名字之前，我们早已开始将部分思考外包给搜索引擎。但搜索仍然需要我们分解问题、评估来源并综合答案。而AI越来越多地替我们完成这些中间步骤，即使对于复杂或冷门的问题，也能在几分钟内给出一个完整的答案。 像 Google Deep Research（https://gemini.google/overview/deep-research/）和 OpenAI Deep Research（https://openai.com/index/introducing-deep-research/）这样的工具，现在能完成那些曾经可能需要一个人花费几分钟、几小时甚至几天才能完成的工作（参见 METR 的 《前沿AI模型的任务完成时间范围》（https://metr.org/time-horizons/））。它节省了你的时间，也节省了你的思考。 但这中间有一条微妙的界线：一边是拥有一个帮你完成任务的助手，另一边是失去你所有的自主权。或许我们应该问的问题是：对于你生活中真正重要的事情，最终的决定权掌握在谁手里？ 在刘宇昆的故事中，主角相信算法比他自己更了解他：“Tilly给我建议的一切都经过科学验证，符合我的品味档案，是我会喜欢的东西……听Tilly的话，让完美的产品找到完美的消费者，让完美的女孩找到完美的男孩，这有什么错呢？”他把从穿什么这样的小事到如何找到爱情这样的大事，都交由助手来决定。同样地，“麦克风男”把所有的高阶思考都交给了Claude，他相信Claude在各方面都比自己聪明。 将思考外包给AI的倾向，也渗透到了我的生活中。 缓慢的思考和快速的答案之间总是存在取舍。许多问题值得快速回答（比如现在天气怎么样？XYZ国家10年前的总统是谁？XYZ品牌的护肤品或运动装备评价如何？）。但还有许多其他问题，我认为值得更长时间的思考。 有时候，我会不带手机在附近散步。总会有问题突然冒进脑海——那些我早已习惯立刻用手机搜索的问题（比如樱桃是长在树上还是灌木上？第一届世界杯比赛是在何时何地举行的？）——但我发现，等我到家时，大部分问题都忘了。我只记得那些重要的几个，其余的估计因为无关紧要而被遗忘了。也许在生活中，忘记琐碎之事、不必对脑中浮现的每一个疑问都有即时答案，是有某种价值的。 几个月前，我和妹妹在葡萄牙旅行。在参观了纪念葡萄牙“大航海时代”的发现者纪念碑（https://en.wikipedia.org/wiki/Monument_of_the_Discoveries）后，我们感觉到葡萄牙似乎崇拜这些“发现者”和“探险家”，而在美国，我们会称他们为“征服者”和“殖民者”。我问导游，航海家亨利或者这些人中是否有谁被“取消”了，就像克里斯托弗·哥伦布在美国被严重“取消”那样。她回答说没有，事实上，像航海家亨利这样的人通常被视为受人尊敬的历史人物。 [](https://substackcdn.com/image/fetch/$s_!hk24!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F3c14706e-48b0-43eb-8d81-cb1b50a97498_1536x2048.jpeg)发现者纪念碑，实际更高，但我的相机框不下。与本文完全无关，但最左边那个人很像 法尔奎德公爵（https://shrek.fandom.com/wiki/Lord_Farquaad）。 我妹妹好奇为什么葡萄牙似乎为自己的殖民历史感到自豪，以及他们对殖民主义的反应为何与美国目前谈论和对待自身殖民历史的方式如此不同。“我们问问ChatGPT吧，”她边说边掏出了手机。 我建议（虽然一开始有点不情愿）我们先停下来想想这可能是为什么。我提出了一些理论。也许是因为葡萄牙相对同质且宗教色彩浓厚，而美国则是移民大熔炉。也许葡萄牙紧紧抓住所谓的“大航海时代”，将其作为本国历史中最突出的篇章之一。我们猜测、假设、大胆推断、回溯、连接想法、提出异议，并回忆起多年前在高中时学到的历史细节。我们动用了集体的记忆、知识、对世界的理解以及批判性思维能力。我们知道我们是在推测，有些理论很可能是错的——而这正是这项练习的一部分。 最后，我们向AI问了同样的问题。它的回答证实了我们的许多理论，并提供了一些我们遗漏的解释。但它也遗漏了我们仍然觉得合理的几种可能性。我们从一个问题开始，提出假设，然后才用AI来检验和拓展我们的思考。我非常享受这个过程。 我本人从事AI工作。我的工作是衡量Gemini在解决困难任务（包括需要思考和运用工具的任务）方面的能力。同时，我也在生活中看到许多人热情地描述AI如何帮助他们工作。比如，我的表姐在一家韩国公司工作，她用Gemini将冗长的官方英文报告翻译成韩文，大大加快了工作速度。我的同事们提出研究想法，然后让编码代理去实现细节，这样他们就可以花更多时间在分析上。我的朋友在ChatGPT的个性化辅导帮助下，只用了几个月就准备好了医学院入学考试，整个过程包括从头学习生物化学。 有人可能会说，如果你把日常的思考外包给AI，从而腾出时间去做其他更重要的思考，这或许能提升生活满意度和生产力。特别是如果AI被用来自动化那些常规、重复、乏味的任务（参见OECD关于AI对工作场所影响的报告（https://www.oecd.org/content/dam/oecd/en/publications/reports/2023/03/the-impact-of-ai-on-the-workplace-evidence-from-oecd-case-studies-of-ai-implementation_b4c2c6ee/2247ce58-en.pdf）），而这些任务之前人类工人只能拿到微薄的薪水（参见国际劳工组织的报告，《数字劳工平台与工作的未来》（https://ssir.org/articles/entry/ai-workers-mechanical-turk）），那么让人解放出来去做其他更有趣、更有成就感的思考，这难道不是一件大好事吗？如果我们让AI去做我们工作中那些无数琐碎的任务，愉快地完成数小时的苦差事，我们的生活难道不会变得稍微愉快一点吗？ 然而，用AI轻松回答我们每一个问题，也容易导致思维的懒惰。我母亲在一所在线大学教授物理。她怀疑几乎所有学生都在用AI完成作业。她注意到，有些学生的作业回复几乎一模一样，就好像他们直接把问题复制粘贴到同一个AI工具里，答案中没有任何独特的思考或见解来区分AI给出的通用答案。她无法证明是否使用了AI，而且答案相当全面，所以大多数学生都得了A。 AI可以支持学习，但它也可能在不教会你如何得出结论的情况下直接给出答案。对许多学生来说，解决物理问题或撰写论文的过程可能被认为是乏味的（用哪个方程？哪些来源？哪些论点？）。但是，如果这样，那么上学或学习的意义又是什么呢？ 没有明确的方法可以将完全自主思考与自动化部分琐碎工作完全分开。通常是某种混合状态。就像“麦克风男”一样，我也会收集和分析自己的数据（https://www.artfish.ai/p/an-investigation-of-my-2022-crying）。前几年，我甚至让AI替我分析数据（https://www.artfish.ai/p/2025-data-collection-wrapped）。 我和“麦克风男”有什么不同吗？也许区别在于，我仍然自己收集和整理数据，自己提出想要回答的问题，并自行评估最终结果？或者，因为数据是我自己的，而不是录制别人的对话？在自动化琐碎任务以腾出时间做有意义的事情，与亲力亲为以获得学习体验之间，总是需要某种平衡。 在刘宇昆的故事中，另一个角色Jenny试图反驳主角对AI助手的过度依赖。她喊道：“Tilly不只是告诉你你想要什么！它还告诉你该*想*什么！你自己还知道你到底想要什么吗？”我们的自主权，至少部分取决于我们是否继续参与塑造自己的欲望。但当我们把关于自己想要什么的思考外包出去（我应该听什么音乐？看什么电影？吃什么食物？穿什么鞋？），我们又会变成什么样呢？ 我们正在自动化的是什么？是人类的工作，还是人类的能动性？是人类的任务，还是人类的思考？ 感谢阅读 Art Fish Intelligence！本文是公开发布的，欢迎分享。 分享（https://www.artfish.ai/p/offloading-thinking-to-ai?utm_source=substack&utm_medium=email&utm_content=share&action=share）