AGI之后什么仍将稀缺？（67分钟阅读）

# 亚历克斯·伊马斯与菲尔·特拉梅尔——AGI之后还有什么稀缺？ 来源：https://www.dwarkesh.com/p/alex-imas-phil-trammell AGI经济学系列节目，特邀嘉宾Alex Imas (https://www.aleximas.com/) 和 Phil Trammell (https://philiptrammell.com/)。 关于如何应对人工智能，有一系列重要问题只有经济学才能回答。 什么是最优的税收和再分配方式，以分享即将创造的财富？未参与AI供应链的国家应如何分享收益？是否存在不平等不会急剧扩大的情景？ 这些问题看似有显而易见的答案，但经济学教你的第一件事就是：你的直觉往往可能完全错误。 与Alex和Phil探讨这些问题非常有帮助。 在YouTube (https://youtu.be/Jj-kBHzUohs) 上观看；在Apple Podcasts (https://podcasts.apple.com/us/podcast/alex-imas-and-phil-trammell-what-remains-scarce-after-agi/id1516093381?i=1000771185825) 或Spotify (https://open.spotify.com/episode/52wp90vqwiRmmQaOm9M2uZ?si=8a81MnA4Tf-X3VUzpzE1qg) 上收听。 - Jane Street (https://janestreet.com/dwarkesh) 大力投资于将聪明人培养成杰出的研究人员和工程师。除了学徒制，Jane Street还在办公室教室举办讲座和训练营——经理们会清空团队日程以鼓励参与。如果你希望在一个如此重视学习的机构工作，Jane Street正在招聘。请访问janestreet.com/dwarkesh (https://janestreet.com/dwarkesh) 查看他们的开放职位。 - Google的Gemini Omni (https://gemini.google/) 拥有令人难以置信的视频编辑能力——你可以上传视频，让Omni更改背景、调整光线或添加特定元素。但Omni也预示了未来前沿模型的训练方式——在输入和输出上完全多模态。你可以自己在Gemini应用中尝试，网址为gemini.google (https://gemini.google/) 或Flow中的flow.google (https://flow.google/)。 - Cursor (https://cursor.com/dwarkesh) 使用带有文本反馈的定向强化学习来帮助训练他们的Composer 2.5模型。他们的一位研究员Sasha Rush即兴在黑板上讲解，解释了这种在线策略自蒸馏的工作原理——我在X上发布了完整内容。如果你想尝试Composer 2.5，请访问cursor.com/dwarkesh (https://cursor.com/dwarkesh) (00:00:00) – 资本份额会增加吗？ (00:19:36) – 中间混乱情景 (00:25:57) – 如何税收和再分配AI财富 (00:30:02) – 为什么需求崩溃不太可能 (00:39:26) – 人类雇员将难以融入机器经济 (00:43:08) – 如果有些人（或AI）内在重视财富积累呢？ (01:01:28) – 发展中国家应该做什么？ **Dwarkesh Patel** 今天我将与Alex Imas (https://www.aleximas.com/) 和 Phil Trammell (https://philiptrammell.com/) 交谈。Alex是Google DeepMind (https://en.wikipedia.org/wiki/Google_DeepMind) 的AGI经济学主任，同时也是芝加哥大学 (https://www.chicagobooth.edu/faculty/directory/i/alex-imas) 的经济学教授。Phil是Epoch (https://epoch.ai/) 的经济学主管，也是斯坦福 (https://digitaleconomy.stanford.edu/person/philip-trammell/) 的研究学者。 总的来说，我想在这次访谈中了解经济学能告诉我们什么，关于在自动化和更先进AI越来越多的世界中可以期待什么。我想了解这告诉我们工资和劳动份额会发生什么变化，什么是最佳的税收和再分配AGI创造财富的方式，以及哪些东西会变得稀缺。稀缺性决定了价值将流向何处。 我想从那里开始。哪些东西可能是稀缺的合理候选？ **Alex Imas** 类似关系性部门 (https://aleximas.substack.com/p/what-will-be-scarce) 这样的东西，其定义为：产品或服务的价值中，人类参与其中是价值的一部分。因为人类天生稀缺，如果自动化使得许多其他东西不再稀缺，那么人类参与其中的事物仍将稀缺。 **Dwarkesh Patel** 我很好奇，人类为其他人类提供服务能否始终成为经济的重要部分。这里有一个直觉泵。在一个AI能够物理上做到人类能做的一切的世界里，存在一个完整的机器经济：它们建造工厂、进行研究、提出新想法。人类可能参与或不参与这些事物的物理生产，但在最终极限下，如果机器人技术得到解决，可能不会参与。如果你不在乎人类参与这个过程，为什么他们还要参与呢？ 但你还指出了一些其他事物，比如我们确实希望芭蕾舞演员或咖啡师是人类——这是去咖啡馆或看表演的部分价值。但只有人类才有这种偏好。所以存在一个人类经济，人类相互提供服务，他们的部分财富流向其他人类。 但他们的部分财富也会流出，因为他们会想要一些机器经济创造的自动化商品。这不是一个闭环。机器经济中的许多事物是闭环，因为机器不在乎让人类咖啡师为它们煮咖啡。 在这个模型中，人类经济不就会自然而然地变得越来越小吗？ **Alex Imas** 我想建议重新表述这个问题。我的观点是，像我们这样的经济学家做出的个人预测，作为个人预测，不一定是很有用的。 昨天有一篇由Andrey Fradkin (https://andreyfradkin.com/)、Brian Jabarian (https://brianjabarian.org/) 和 Andrew Koh (https://www.andrewjkoh.com/garden) 发布的博客文章 (https://empiricrafting.substack.com/p/we-need-well-capitalized-prediction)，研究了经济学家对劳动力市场的预测。他们发现每个方向都存在大量分歧。 他们提倡的，我也赞同的是，与其考虑个人预测，不如生成预测市场，从中获得聚合预测和群体智慧 (https://en.wikipedia.org/wiki/Wisdom_of_the_crowd) 效应。我这么认为的原因是，我们的预测能力出了名地糟糕。 让我们回溯到1820年。我们一直在争论的这个话题实际上已有200年历史。David Ricardo (https://en.wikipedia.org/wiki/David_Ricardo) 是古典经济学家 (https://en.wikipedia.org/wiki/Classical_economics) 之一，不是新古典 (https://en.wikipedia.org/wiki/Neoclassical_economics) 经济学家。当工业革命 (https://en.wikipedia.org/wiki/Industrial_Revolution) 开始时，他写了很多东西说：“这对所有人来说都是好事。价格会下降。”但随后他转过身来说：“等等，我看到所有这些创造价值的工作都将被这些机器自动化。这会非常糟糕。所有人都将失业，还会出现政治动荡。” 如果你看看Ricardo的预测，它们实际上是正确的。在Ricardo时代所有赚钱的工作都被自动化了。如果David Ricardo醒来后有人告诉他所有这些工作确实被自动化了，然后问他：“你认为2026年的壮年就业率 (https://fred.stlouisfed.org/series/LNS12300060) 是多少？”，我想他会惊讶地得知这是除2000年之外最高的水平。我们现在的就业人数是自2000年以来最高的可以就业的人数。2000年是峰值，现在基本上是第二个峰值。 David Ricardo最终忽略的是，存在结构性变化的经济学：所有被自动化的事物都变得便宜。人们有更多的钱可以花，然后他们开始把钱花在服务业上。这就是劳动总量谬误 (https://en.wikipedia.org/wiki/Lump_of_labour_fallacy)。David Ricardo没有考虑到新工作会被创造出来。 但钱流向服务业并不是显而易见的。为什么它不会流向更多的自动化商品之类的呢？我并不是用这个轶事来说明现在会发生同样的事情，我们将实现充分就业。我是用它来说明做预测真的很难。 经济学家可能有一个非常有用的工具：从一个前提开始。也许我们从今天开始：劳动份额为零。劳动份额已经下降。什么可能解释这一点？让我们写下发生了什么的经济模型。Phil稍后会谈到这一点。或者你可以写一个模型问：“如果劳动份额保持不变呢？什么能让它发生？” 如果你从这次对话中只记住一件事：我们没有数据。我一直在说我们需要一个曼哈顿计划来收集数据。我们没有消费者需求弹性 (https://en.wikipedia.org/wiki/Price_elasticity_of_demand) 的数据。我们不知道它们是什么。我们并没有真正追踪哪些工作在创造或消失。O*NET数据库 (https://www.onetcenter.org/database.html) 包含了所有任务和不同工作，但很少更新，质量也很低。 真正有用的是思考潜在的情景，将它们描绘出来，并问：稀缺性 (https://en.wikipedia.org/wiki/Scarcity) 的哪个维度会产生每个情景？如果存在充分就业，我们可以谈论关系性部门。如果劳动份额崩溃，我们可以谈论其他类型的情景。这告诉我们需要收集哪些数据。 **Dwarkesh Patel** 我们可能有必要快速定义一下劳动份额和资本份额。整个经济中所有销售的商品和服务的总和，要么以工资形式支付给人们，要么支付给资本——比如建筑物租金和公司股东的分红。 数百年来，大约60%的经济产出发放给人类作为工资，另外30-40%发放给拥有机器、土地和公司股权的人。问题是，如果现在60%流向工资，随着AI变得更聪明、更好，这个比例会缩小吗？ **Alex Imas** 这是一个卡尔多事实 (https://en.wikipedia.org/wiki/Kaldor%27s_facts)。我们应该强调这一点。在经历了工业革命和迄今为止我们看到的所有自动化之后，它仍然超过60%是令人惊讶的。有些人担心这是一个会计错误，它如此恒定。 现在甚至存在争议。有些人可能会说劳动份额在过去20到30年里一直在下降。但过去30到40年里有很多会计变更。例如，Atkinson (https://en.wikipedia.org/wiki/Tony_Atkinson) 有一篇论文 (https://www.brookings.edu/wp-content/uploads/2016/07/2013b_elsby_labor_share.pdf) 显示，如果你保持会计方法多年不变，劳动份额甚至从未下降过。 **Dwarkesh Patel** 但这并不是那么令人惊讶，对吧？Phil，你提出了一个观点：如果劳动和资本是互补品，你需要两者才能做任何事情。那么你需要支付两者才能得到结果，这是有道理的。 **Alex Imas** 但有些东西已经完全自动化了。 **Phil Trammell** 从某种意义上说，还没有任何东西被完全自动化。看看一种商品的经网络调整的要素份额。向下游看供应链，不仅仅是最后一步以及它由资本和劳动完成了多少，还要看自动化最后一步的机器中包含了什么。你会发现劳动在供应链下游增加了大量价值。 美国的计算机和电子产品拥有非常稳定的经网络调整资本份额，大约在50%左右。不是100%。我确实认为存在一种质变，我认为我们都同意它会到来：至少会有一些商品的经网络调整资本份额变为一。整个供应链可以实现自动化，并且其中没有我们内在在乎要由人类完成的部分。这将是一个质变。 有趣的是，这种转变对总体资本份额的影响是模糊的。假设我们有两个部门：人类内在部门（有芭蕾舞演员）和其他一切。现在，其他一切因为缺乏劳动而变得稀缺。但如果我们完全自动化其他一切的供应链，并且我们在其他一切上很快得到满足，那么非芭蕾舞演员物品的数量趋向无穷大，但那些东西的边际效用下降得比数量上升更快。 **Alex Imas** 我也想远离芭蕾舞演员的例子。我在我的文章中试图表达的观点——从某个特定情景逆向推导——是芭蕾舞演员和表演者是不正确的参照类。现在我们有很多工作包含不同的任务。这是基于任务的工作模型。以医生为例：他们做什么？他们填写保险文件，打电话给不同的制药公司。其中一个任务是看病并与病人交谈，但这不是工作的主要部分。 你可以有一份工作、一项服务或一种商品是由不同类型的任务组成的，你可以自动化大量这样的任务。如果消费者愿意为这样一种产品或服务支付更多：每个任务都被自动化，除了医生提供诊断和支持的那一部分，那么我们会把这份工作称为关系性部门的一部分。人们愿意为工作中保留人类参与而支付更多。 我们没有数据来说：“这些是关系性工作，那些不是。”你确实需要收集以下类型的数据：做一个联合分析，了解你为这项服务或商品愿意支付多少。这里有一个反事实：所有东西都由机器生产。另一个反事实：这项任务不是由机器生产。你愿意支付多少？你对人类不参与其中的弹性是多少？ 如果我没有这些数据，我还能在这个故事中做出什么预测？ **Dwarkesh Patel** 难道不是还有一个观点：有很多完全自动化的商品甚至还不存在？你现在无法收集数据，比如人们对某种由AI完全生产的、让你更健康的药物，他们愿意继续购买多少。 **Alex Imas** 当然。这有点像Phil的观点。你可以在资本中获得品种的增加，从而不会达到满足点。你增加品种，所以没有达到收益递减边际效用 (https://en.wikipedia.org/wiki/Marginal_utility) 的那一点，即你的大部分收入都流向人类部门。如果这种品种增加足够快，而人类部门没有这样的品种增加，那么你可以得到你想要的所有关系性商品，但这对于劳动份额无关紧要。它会降至零。 **Dwarkesh Patel** Phil，我喜欢你那个类比 (https://philiptrammell.substack.com/p/is-labor-a-luxury-in-the-long-run)，关于一个14世纪的蒙古经济学家思考什么会稀缺以及这种分析的局限性。我觉得你应该谈谈这个。 **Phil Trammell** 想想过去一个蒙古人可用的商品。我不是这个社会的专家，但我知道他们没有我们现在拥有的品种多。看看那些内在属于人类的工作，比如歌手。然后看看那些不是的