Society Is About To Change. And No One Is Ready | Richard Hames meets Garrison Lovely

**TL;DR:** AI 能力每六到七个月翻倍，但人们要么忽视它，要么误解它；一小群人正试图让你过时，而我们并非无能为力。 ## AI 的三种思想流派：你是哪一派？ 关于人工智能，存在三种基本立场： - **助推派**：希望 AI 越快越好，认为这是好事，或者单纯喜欢速度。 - **批评派**：认为 AI 是纸上谈兵，会因技术或经济原因撞墙，有时甚至认为谈论 AI 本身就是营销炒作。 - **战士派**（主持人自称）：看到能力增长曲线没有撞墙，也没有资金耗尽或进步放缓，但对自动化将导致全球工人阶级几乎完全丧失权力感到焦虑。嘉宾加里森·洛弗利也属于这一派。 加里森·洛弗利是《过时：AI 行业试图取代你的万亿竞赛，以及如何阻止它》的作者。他曾任职麦肯锡，后成为吹哨人，将麦肯锡描述为“资本的甘心执行者”。现在，他认为同样的描述可能适用于 AI 本身。 ## “锯齿智能”：为什么 AI 让你既惊叹又失望 模型在某些能力上超越人类，在其他方面却远低于普通人。AI 能处理的任务时长每六到七个月翻倍：30 分钟的任务 → 60 分钟 → 2 小时……每三到六个月增加的绝对时长超过了之前五年。但人们会犯一些人类绝不会犯的错——例如，修复一个 Bug 时引入新 Bug，再修复新 Bug 时又引入旧 Bug。人类程序员一旦修好就不动它了。 这种“锯齿边界”导致人们很难理解 AI：如果一个人类在所有测试中都拿到相同分数，在这么多领域跑得一样快，你会惊呼“这是博学天才”。但 AI 不是人类智能，它的非人性既是能力来源，也是可怕之处。 ## 隐喻：Shoggoth 与 Fatberg - **Shoggoth**（H.P. 洛夫克拉夫特笔下的多爪多眼怪物）：AI 表面上是友好的笑脸，背后却是陌生而怪异的东西。 - **Fatberg**（伦敦下水道由油脂、湿巾等形成的巨大污物）：当你与 Claude 或 GPT 互动时，得到的友好回应实际上是从这个 Fatberg 上舀的一小勺样本。 这些隐喻说明：我们自然理解 AI 的方式被它的现实搞糊涂了。 ## 为什么你应该继续使用这些工具 很多人因为环境、不想支持公司或不喜欢体验而停止使用 AI。但加里森认为，如果你不主动去用前沿模型、不推动它们，同时对它们不能做什么做出强烈断言，就会造成扭曲的认知环境。 “如果你在乎你正在从事的使命，就应该使用最适合那个使命的工具。拒绝使用好比避免使用智能手机——你可以那么做，但那只会给生活带来麻烦。即使反对苹果或供应链中的剥削，我们也已经参与在这个系统中，相比作为边缘用户造成的伤害，我们可以更多地改变这个系统。” ## 《过时》写给谁？要说服什么？ 加里森想与那些对 AI 感到好奇但不知从何入手、不信任该领域任何人的人对话。他的书试图： 1. 从零背景解释行业在做什么、为什么这么做。 2. 梳理各方论点，回答常见问题：AI 是泡沫吗？会抢工作吗？不能拔电源吗？ 3. 建立理解技术的新框架，批评经典 AI 安全视角，提出我们应该建造什么、阻止什么。 核心论点：一小群人正试图让你过时。几乎没人希望他们成功，但我们在让他们成功，原因有三： - 没意识到这件事正在发生。 - 不认为它可能成功。 - 不认为我们能阻止它。 书逐一审视这些原因，并论证：我们可以阻止它。 ## 技术与权力：从麦肯锡到 AI 加里森离开麦肯锡后写下见闻，认为麦肯锡是资本的甘心执行者。现在他担心 AI 会成为同样的角色——自动化带来的权力集中，将削弱全球工人阶级。他认为，“AI 变得极其强大并可能接管世界或剥夺人们权力”的说法最常由埃隆·马斯克或萨姆·奥尔特曼提出，但他们建造的东西已经多次表现出不可信。我们不应忽视论点本身的力量，只因为来源有问题。 ## 对话中的其他联系 本期节目与卢克·肯普（AI 存在风险）、昆克·莱奥迪安与本·塔尔诺夫（埃隆·马斯克帝国）、丽莎·塞拉尼安（人格与 AI）等之前的节目有联系。可在 Navara Media 网站找到完整的“自己做研究”地图。 --- **Source:** [Society Is About To Change. And No One Is Ready | Richard Hames meets Garrison Lovely](https://www.youtube.com/watch?v=OXozPnrCibk)