人类瓶颈

# 人类瓶颈 来源：https://borretti.me/article/human-bottlenecks AI模型能力很强，而且每年都在变得更强。因此，人们自然觉得没有充分利用它们。有一条推文是这样说的：你的笔记本电脑里藏着一家价值一亿美元的初创公司，你只需要找到正确的语词序列就能把它释放出来。而除了金钱之外，人们想象AI可以在生活的方方面面提升自己。于是就有了这些经久不衰的想法：一个AI执行助理、一个AI导师、一个帮你打理“数字花园”的AI、一个（唉）帮你写闪卡的AI。 通用模板是：只要我能把正确的提示词和正确的工具，用正确的方式组合起来，我就能拥有一个代理，让我的生产力提升10倍，或者解决我的心理治疗问题，或者让我更擅长社交，或者让我更有学识。有意思的是，这恰恰是许多早期计算先驱的抱负：*《增强人类智能》* (https://www.dougengelbart.org/pubs/augment-3906.html)、*《人机共生》* (https://en.wikipedia.org/wiki/Man%E2%80%93Computer_Symbiosis)。恩格尔巴特 (https://en.wikipedia.org/wiki/Douglas_Engelbart) 的实验室就叫**增强研究中心** (https://en.wikipedia.org/wiki/Augmentation_Research_Center)！而更近期，人们常常抱怨说，每个人都把亚历山大图书馆装在了口袋里，但我们却并未都成为博学的通才。 这些想法之所以经久不衰，是因为它们似乎从未实现。这就像个人层面上的*索洛悖论* (https://en.wikipedia.org/wiki/Productivity_paradox)。为什么？我认为有两个原因：首先，大多数人缺乏安迪·马图沙克 (https://andymatuschak.org/) 所说的“严肃的使用场景 (https://notes.andymatuschak.org/People_who_write_extensively_about_note-writing_rarely_have_a_serious_context_of_use)”（AI无法推动进展，因为根本就没有进展可推）；其次，大多数人受制于内部因素，AI（或者任何外部事物）对此也无能为力。 ## 严肃的使用场景 我听过很多人，无论是在网上还是现实生活中，对我说各种类似的话：“我想用/开发一个用AI写闪卡的应用”。你觉得这些人中有多少人真正写过闪卡？有多少人每天都用Anki (https://apps.ankiweb.net/)？甚至用过Anki？那些希望AI帮他们写闪卡的人*根本不用闪卡*。他们没有理由用。同时，使用闪卡的人从AI (https://borretti.me/article/the-applicability-of-spaced-repetition) 帮他们写闪卡中获得的收益也微乎其微。 类似地，“AI导师”也是一样。如果你笔记本电脑里住着冯·诺依曼的幽灵，你会让他教你什么？老实说吧。你会翻完某个你有点好奇的数学主题的第一章，然后就抛之脑后了。而这很可能是理性的行为！大多数人不是自学者，因为大多数人没有实际的理由去学习某个特定主题（也就是说，他们的工作不需要），而纯粹为了学习而学习的问题是机会成本：没有*先验*的理由去学习一个东西而不是另一个，所以最好什么都不做，等着出现某个真正引起你兴趣的东西。再说一次，这很可能是理性的！你能想象如果你觉得所有东西都很有趣吗？你会花几年时间待在地下室，整理一本关于晚期苏联军事装备的维基百科之类的。所以，即使你把冯·诺依曼装进口袋，可能也起不了什么作用。 一个“AI执行助理”*真的*能提升你的生产力吗？除了告诉你去做那些你已经知道该做的事，它还能做什么？对于那些抽象来看非常有吸引力的想法，戳破它们的方法就是审视具体、细颗粒度的细节。拿一天的工作为例，问问自己：一个在我旁边盯着的AI，到底采取了哪些精确的行动，才产生了影响？ 最后是那些工具+思考/笔记爱好者。老天爷啊。总是老一套。你那存着笔记的文件夹——抱歉，你的“第二大脑 (https://fortelabs.com/blog/basboverview/)”——再加上一个能写作、编辑、综合信息、回答问题的AI代理。你一个下午就能搭出这个系统，但它对你人生的推动微乎其微，原因和当初搭建第二大脑本身没有带来改变是一样的。 你看，我们大多数人，除非是学生，其实没什么理由去记笔记。如果你是学生，你会从教科书上记笔记。我写日记，偶尔有用。有些工作里我记工作日志，也有用。如果我不记了，大概也不会有太大变化。 那些笔记爱好者——我充满善意地说——从来就不是那种处于领域前沿的研究人员，一砖一瓦地建造一座知识的宏伟教堂，以便获得新的洞见。也从来不是那种需要阅读数千万字、跨越数千份资料，来综合某位历史人物生平的历史学家。从来不是在做艰难事情的人。总是一些博主。他们的“数字花园”是关于如何维护数字花园的。非常唯我论：没有产出，没有可交付成果。可交付成果就是你截一张你的Obsidian (https://obsidian.md/) 图谱的截图，发条推文炫耀它看起来像个不可理喻的毛线团。 那么，AI能带来什么不同呢？“它会帮我记笔记”。记什么？“它会帮我读文章、总结，然后添加到数字花园里”。为了什么目的？“它会找到我点子之间的联系！”什么点子？它会拉出一份未完成的要点清单，准备给一篇关于某件无聊事儿的文章草稿，再加上一堆你没读过的PDF，然后把它们组合起来，生成什么？另一个你永远不会去做的项目？AI来做这些？ 再说一遍，我充满善意地说这些。我以前也是个工具+思考爱好者。我囤积PDF。但我们得对自己诚实。有时候，工具无法推动进展，是因为根本没什么进展可推。因为那个“进展”并非一个具体、可实现的实际需求，而是一个关于“我们是谁”的模糊、理想化的想法。 ## 内部限制因素 所以，用计算机增强人类能力这个概念，基本上就是：你以人为基础，在他们周围搭建一个支架，但人本身不变。这个支架可以是经典软件，也可以是AI，但人仍然是一个黑箱。而希望在于：我只要指挥我的AI代理群，就能变得高效100倍，就像《加速世界》 (https://www.antipope.org/charlie/blog-static/fiction/accelerando/accelerando.html) 里的曼弗雷德那样。 这为什么行不通？我认为大多数人都受制于难以改变的内部因素。精神能量、动力、执行功能，更不用说智力和责任心这些更基本的特质了。所以，外部支架，无论是经典软件还是AI，也许能有所帮助，但不会是变革性的。 考虑一下执行功能。我管理多动症 (https://borretti.me/article/notes-on-managing-adhd) 的个人经验是，外部支架（待办事项列表、日历、计时器、无数个骗自己工作的小把戏）能让我从零分变成“勉强能用”。但也就到此为止了。而兴奋剂解决了最初的内部瓶颈，也就是我的神经化学问题。然后我才能去实现我的目标（参见*李比希最小因子定律* (https://en.wikipedia.org/wiki/Liebig%27s_law_of_the_minimum)）。世间所有的番茄工作法，都比不上一个扩散到我的脑组织里、与去甲肾上腺素转运体 (https://en.wikipedia.org/wiki/Norepinephrine_transporter) 和多巴胺转运体 (https://en.wikipedia.org/wiki/Dopamine_transporter) 结合的小分子。而哪些支架是有用的呢？就是经典的软件：Todoist (https://www.todoist.com/) 和日历。一个AI代理能和哌甲酯治疗多动症的效果相提并论吗？我表示怀疑。 考虑一下智力。AI能否增强人类智力？那会是什么样子？想想看，AI代理只有在模型跨越特定能力阈值后才变得有用，也就是说，你不能把GPT-2放进一个外壳里，然后期望得到GPT-5的输出。你能把一个人放进AI支架里，然后让他们智商增加30点有效值吗？我怀疑，除非AI替人做了所有思考，那样的话，人还有什么用处？在人机人马模式 (https://en.wikipedia.org/wiki/Advanced_chess) 中，限制因素就是人本身！所以，在获得非常先进的生物技术之前，智力是固定的。 知识是另一个限制因素。我发现即使是非常有学识的人也往往低估知识的重要性。很多人抱着这样的态度：你可以随时用谷歌搜索，在需要的时候就即时获取。像巴贝奇一样，我实在无法理解那种会导致人产生这种想法的概念混淆 (https://en.wikiquote.org/wiki/Charles_Babbage#Passages_from_the_Life_of_a_Philosopher_(1864))。也许这和缺乏严肃的使用场景一脉相承。你所做的每一件事，每一个行为和无意识的念头，都依赖于这个庞大的（隐性的、看不见的）知识宝库。克劳德·香农发明数字计算，是因为他记得当时一个晦涩的数理逻辑分支——布尔代数，并看到了它可以在硬件中实现。一个万亿美元的产业，就从几本旧书里变出来了。 在AI时代，知识仍然是瓶颈的原因，并非：“如果你没有知识，你就无法写出提示词”。而是：如果你没有知识，你就无法理解问题，不明白它为什么重要，也不知道如何判断答案，甚至根本不会想到去问。你完全处于“写提示词”这个阶段的*另一个大陆*。而且，由于长期记忆是私密且内在的，AI无法增强它。也许，通过明智的使用，AI可以帮助获取新知识。 所以：执行功能、智力和知识是你所能做的事情的巨大瓶颈，而且因为它们存在于大脑内部，AI无法触及，除非我们拥有远为先进的生物技术。推论：与流行的“人力资本正在变得一文不值” (https://www.youtube.com/watch?v=2HMPRXstSvQ) 观点相反，教育的回报现在*更高*了，因为聪明、有学识、奖赏回路正常的人，从AI中获益更多。