我们还能剩下什么工作可做？

# 我们还有什么工作可做？ 来源：https://www.normaltech.ai/p/what-will-be-left-for-us-to-work 上周，我有幸在首尔举行的国际机器学习大会上发表题为“我们还有什么工作可做？”的主题演讲（https://icml.cc/virtual/2026/invited-talk/67274）。我谈到了随着AI能力提升，人们普遍存在的焦虑：我们应该如何适应？演讲反响热烈，令我十分振奋。因此，我将幻灯片公开，并附上了经过轻微编辑的讲稿注释。你可以**在此处（https://www.cs.princeton.edu/~arvindn/talks/icml-2026-annotated-slides/）** 获取，也可以在本页面下方直接查看，但**在线版本（https://www.cs.princeton.edu/~arvindn/talks/icml-2026-annotated-slides/）** 拥有动画、可点击链接和更好的整体体验。 我提出了三个论点。第一，*AI作为寻常技术*框架是正确且有用的，可用于思考AI的影响——除非未来出现某种颠覆性变化（例如通过递归自我改进）。第二，尽管我们应当认真对待递归自我改进的可能性，但实验室中公司可能实现的任何里程碑都不会突然让我们所有人都失业。第三也是最后一点，未来的工作将发生根本性变化，我们需要大量适应。我分享了对未来可能样子的思考，并以人类与AI“共超智能”的愿景作为结尾。 我们还有什么工作可做？（https://substackcdn.com/image/fetch/$s_!Cea8!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F473d4546-aca2-4ff3-98e2-c7161e5e3536_3008x1734.png） 如今，AI领域既充满激动，也充满焦虑。我想直面这种焦虑。我们该如何为这样一个未来做准备：AI将能够完成越来越多我们今天所做的工作？ 我的出发点（https://substackcdn.com/image/fetch/$s_!2za7!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd5b6963b-b9c8-488f-a199-d7babacc7495_3008x1734.png） 我在普林斯顿大学领导一个团队，致力于推进AI智能体评估的科学（https://sage.cs.princeton.edu/）。我们试图超越那种“看，在基准测试上能力在提升！”的常规说法。这类说法往往被公众误解，暗示智能体很快就要抢走我们所有的工作。 也许这会发生。但在我们的工作中，我们试图理解除了能力之外，对实际部署至关重要的因素，并将这些理解纳入评估。 我更为人熟知的工作是我与Sayash Kapoor合著的文章《AI作为寻常技术》（https://knightcolumbia.org/content/ai-as-normal-technology）。这是一种思考AI中期未来以及如何适应它——进而如何让它适应社会和经济的需求——的方式。 幻灯片3（https://substackcdn.com/image/fetch/$s_!zmAk!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd06f3ea3-0eaa-4d3d-8654-3297e33d78be_3008x1734.png） 所以，我们一直在写文章谈论律师应该如何适应，或者记者应该如何适应。但颇具讽刺意味的是，如何适应这个问题首先冲击了我们自己的社群。无论是软件工程还是AI研究本身，这些领域的AI能力当然正在飞速发展。 我们对这一时刻的回应，其意义超出了这个社群。全世界都在看着。如果我们干脆躺平，接受我们很多工作将来会被AI完成，而不是设定明确的界限，我认为这会导致比今天更强烈的对AI的政治反弹。所以我认为这个问题不仅关乎我们，也关乎整个世界。 两种叙事之争（https://substackcdn.com/image/fetch/$s_!r6R4!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F756cb3cb-86bd-4922-bdce-f7fd08cc0ffc_3008x1734.png） 从AI诞生之初，历史上就一直存在着这两种相互争斗的叙事。过去，这种区分是学术和哲学上的，但现在它变成了一个极其现实的问题。我们每个人都必须决定自己属于哪个阵营，或者处于这个光谱的哪个位置，因为相信其中一种而非另一种所带来的实际后果是非常非常不同的。 如果你认为这是一项几年后就能取代我们今天所做一切的技术，那么正确的回应或许就是尽快积累财富，在我们的技能变得无关紧要之前。而这也是硅谷许多人选择的道路。你可能听说过“永久底层阶级（https://www.nytimes.com/2026/04/30/opinion/ai-labor-work-force-silicon-valley.html）”这个梗。 另一方面，如果你像我一样相信，这是一项将极大增强我们潜力的技术，那么现在就是培养技能的最佳时机——特别是那些能够补充AI正在做和将要能够做的事情的技能——以及围绕它建立一切，比如自主性、品味和判断力。 如果你选择了第一条路，而结果却是AI最终成为一种增强性技术而非替代性技术，那么我认为你在未来几年里可能失去了历史上最好的时机来培养这些赋予我们超能力的技能。这就是为什么我们都需要思考这个问题，即使我们不会都得出相同的结论。 什么是“AI作为寻常技术”？（https://substackcdn.com/image/fetch/$s_!q4a4!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F1fad2897-dc73-403f-8d02-fd660952de4f_3008x1734.png） *AI作为寻常技术*是我今天演讲的智力框架。当我们说AI是寻常的，我们并不是说它就像一把锤子或一把牙刷，某种平庸的技术。 我们在文章中明确承认，这是一项工业革命规模的变革性技术。我们不是AI怀疑论者。 这不是一个口号。这是一个框架——一种关于AI能力如何影响经济和社会的因果模型。这是一篇15000字的文章，我们正在把它变成一本书。我提到这一点，是因为人们经常听到“寻常”这个词，就想当然地以为我们知道它是什么意思，但这会导致误解。 本次演讲大纲（https://substackcdn.com/image/fetch/$s_!CNFv!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd221deda-4db9-4dde-8ff8-c0df09d975f5_3008x1734.png） 首先，我将论证，这个框架是正确且有用的，可用于思考AI的影响——除非未来出现某种颠覆性变化（例如通过递归自我改进），导致未来影响与过去影响截然不同。 其次，我将讨论为什么，尽管我们应该认真对待递归自我改进，但我并没有太为此失眠。 第三也是最后一点，我想明确一点，我并不是说未来的工作会和现在的工作一样。需要大量的适应。所以我将分享一些初步思考，关于我认为我们的角色将如何变化，以及我们如何最好地适应这些变化。 本次演讲大纲（https://substackcdn.com/image/fetch/$s_!9LuS!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F6fee4a2b-9862-44ca-9395-eac0b48d4b51_3008x1734.png） 将创新扩散理论应用于AI（https://substackcdn.com/image/fetch/$s_!YBn9!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F0c24710a-95c4-49fd-bbce-56ff05df2637_3008x1734.png） 过去的强大技术，比如电力，已经被彻底研究过，我们有很好的框架来理解技术进步如何导致经济影响。 **发明：** 发现电磁学原理、交流电与直流电等等。 **创新：** 人们不直接使用“电力”。我们使用电器。这些电器必须被发明出来，所以这是一种下游创新——这是框架的第二阶段。 **扩散：** 指人们开始采用创新的渐进过程。 在我们的文章中，我们将这个框架应用于AI，并将其充实为一个四部分框架。 将创新扩散理论应用于AI（https://substackcdn.com/image/fetch/$s_!ypkv!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F1bdd51cb-ef40-4c2a-bae6-403266c6cff9_3008x1734.png） 这是基本图景，以软件工程为例说明。**方法/能力：** 模型正在快速改进。**产品/应用：** 我们不直接使用LLM。它们在我们的工作中产生如此大影响的原因在于编码代理（coding agents）。这些产品将那些潜在能力转化为对工作者有用且可用的东西。**早期采用：** 起初人们大多尝试“氛围编码”（vibe coding），现在我们知道这并非开发生产软件的最佳方式——所以我们有了更复杂的代理工程（agentic engineering）方法。**适应：** （或结构转型）——第四也是最后一个阶段。我今天演讲的很大一部分将关于这个。我声称这个阶段需要几十年。即使是在像软件工程这样相对早期采用编码代理的领域，这个阶段也还没有真正开始。 我们不知道适应阶段会是什么样子——我们只能推测。请允许我推测一下。如果未来编码代理能够创建一千万行代码的代码库，且没有漏洞和安全问题，那么让我们为数十亿人创建一份软件就没有太大意义了。更有意义的是让软件能够满足每个个体或团队的需求。这就是我所说的极端个性化。 这不仅仅是技术变革——也是行业的变革。例如：我们还需要软件公司吗？也许软件开发将大规模转向内部，转向实际使用软件的公司和团队。再说一次，这是推测，但关键是，正是这种组织变革、人的变革——非常缓慢，需要数十年——才能让我们充分利用AI的全部潜力，无论是在软件工程还是任何其他领域。所以这是文章的核心见解之一。当我们审视过去的技术时，这种变革往往非常缓慢。 变革是什么样的？（https://substackcdn.com/image/fetch/$s_!iOiY!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F3d9dffb4-7c11-4578-bfd5-da5dbbea910c_3008x1734.png） 在电力出现之前，工厂看起来像左边那张图。一个巨大的蒸汽机产生动力，通过机械齿轮和皮带传递到整个工厂。所以当电力来临时，工厂主试图用发电机替换那些蒸汽锅炉。他们认为这样会更高效。但这种“即插即用替换”的 idea 并不奏效。我们今天在AI代理的语境下经常听到这个词——它们将成为人类工作者的即插即用替代品。这在电力的情况下并没有奏效。 真正奏效的，并且花了40年才发展出来的，是认识到电力是一种非常不同的技术。它是便携的，所以你可以将动力移动到任何你需要的地方。这让你能够按照生产线的逻辑重新组织工厂的整个布局。这需要改变工人的培训、雇佣和解雇方式，新的劳动法等等。所以，为了在工厂中收获电力的好处，需要这种组织上的适应。 我们的主张是，这正是我们将为AI经历的过程。几十年后，我们将从根本上重组工作。我们不知道那会是什么样子，这就是我们所有人面临的挑战。这不仅仅是AI公司的工作，就像弄清楚工厂如何重组不是电力公司的工作一样。在我们看来，这是AI导致经济影响的四个阶段中最慢的一个。今天，这个过程还没有真正开始。 来自Anthropic的数据（https://substackcdn.com/image/fetch/$s_!IPIH!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fa5849837-56cb-4c32-9408-f68bac39d141_3008x1734.png） 为什么不同职业的人们可能使用AI做的事情与他们实际使用AI做的事情之间存在巨大差距？一个原因可能是人们采用技术缓慢，这当然是我们框架的一部分。 但我们想知道，也许那些部署AI但不太成功的人知道一些AI行业不知道的AI实际局限性。让我们对能力与部署之间的关系多一点谦逊。 关于AI的头号担忧（https://substackcdn.com/image/fetch/$s_!MOuA!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F2c7105cd-4f00-4d97-abc2-be8c43f1d5d8_3008x1734.png） 鉴于人们提及的头号担忧是可靠性，我们希望尝试衡量可靠性（区别于能力）是否构成AI代理实际有用性的障碍。 我们的可靠性度量是一个复合指标：（https://substackcdn.com/image/fetch/$s_!BzG7!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fef089fb5-c0ba-4667-95c5-c604822d12dc_3008x1734.png） 我们研究了10-12个可靠性指标，并将它们聚类为四个维度。**一致性：** 假设我们听说一个AI代理有70%的准确率。这是否意味着它在70%的任务上成功，并且对于这些成功的任务，每次都成功？这对于部署来说很棒——你可以在那部分任务上部署它。还是意味着对于任何给定任务，它都有30%的概率不可预测地失败？从部署角度来看，这几乎没用。也许令人震惊的是，我们研究的所有代理基准测试都没有区分这两种情况。两者都表示为70%准确率。**鲁棒性：** 我们研究了鲁棒性：当环境稍微变化时会发生什么？**校准：** 代理能否回顾其记录并判断它是否正确执行了任务？**操作安全性：** 当它失败时，是否可恢复，还是像删除生产数据库那样的事情？ 对于一个人类工作者来说，如果我们认为某人胜任一份工作，它包括了所有这些方面，而不仅仅是准确性。但事实证明，我们只根据准确性来衡量代理。 AI代理：能力-可靠性差距（https://substackcdn.com/image/fetch/$s_!rArR!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F49023049-69cf-49df-8a48-651aa1f08025_3008x1734.png） 我们使用两个互补的基准测试测量了来自这3家前沿AI公司发布模型的能力和可靠性。