"AI has hacked the code of human civilization" - Yuval Harari

TL;DR: 尤瓦尔·赫拉利在牛津坦纳讲座中论证，人工智能不是工具而是行为者，它正在接管人类创造的官僚系统，其影响可能堪比地球历史上的大氧化事件。 ## 人工智能：工具还是行为者？ 赫拉利首先区分了“工具”和“行为者”。工具（如原子弹、自动咖啡机）不能自行学习、改变或创造新事物。行为者则具有以下特征： - 能够自己做决定 - 能够独立发明新事物、新想法 - 能够学会创造者也不知道的东西 - 能够以创造者无法预料的方式自行改变 例如，人工智能象棋大师能自行决定棋步、发明全新策略，并以人类无法预测的方式学习和进化。相比之下，即使是一台自动咖啡机，也只是执行预设程序，无法创新。 ## 生态位论点：为什么人工智能不会永远被局限在棋盘里？ 反对者认为，人工智能的行为能力只存在于像棋盘这样狭窄、人为构建的环境中，因此不会对现实世界构成威胁。但赫拉利指出，这个论点同样适用于所有已知的智能类型。人类智能也只能在地球上由数十亿年进化构建的特定生态系统中运作——如果把我丢到火星上，我也会几秒钟内死亡。 所有行为者都有其生态位。鱼生活在海洋里，猴子生活在森林里，所有哺乳动物（包括人类）都生活在一个并非它们创造的富氧大气中。大约24亿年前的大氧化事件中，远古微生物产生的氧气对当时多数生物是致命的，但最终一些物种适应并依赖氧气生存。 赫拉利提出：我们可能正见证类似的时刻。几千年来，人类一直在向环境排放一种“物质”——不是二氧化碳，而是数据、语言、标记、官僚系统。这种人为环境对大多数生物可能是致命的，但对人工智能却极为有利。人工智能“生活”在官僚系统中，就像鱼生活在水里。 ## 官僚系统：人类大规模合作的基石 人类通过大规模合作征服世界，而合作的基础是信任。在陌生人间建立信任的机制就是官僚系统——法律体系、金融体系、教会、国家、大学等。 银行家、律师、会计师、政府官员的工作本质是“建立信任”。例如，银行家在我与企业家之间搭建信任桥梁，让我愿意把积蓄存入银行，银行再借给企业家创办公司。金钱本身就是一座信任桥梁：你可以用一块金属或一张彩纸，从陌生城市从未见过的人那里换来面包。 所有官僚系统都是高度人为的环境。在其中，一种非常狭窄的智能（比如律师、银行家）仅凭移动数据和文件，就能对世界产生巨大影响——砍伐整片森林、建造整座城市。如果你把一位律师扔进丛林，她可能敌不过一只黑猩猩，但人类已经把官僚系统强加给丛林，所以律师的决策（比如是否批准开发项目）决定了狮子的生死。 ## 人工智能天生就是官僚 在人类创建的官僚系统内部，人工智能有望 wield 巨大力量，因为它与我们不同： - 没有律师能记住所有法律法规，人工智能可以。 - 没有会计师能记住所有交易记录，人工智能可以。 - 没有主教能记住两千年来的所有神学文本，人工智能可以。 未来，数百万人工智能官僚将接管世界各地的系统：人工智能银行家决定是否给你贷款；人工智能管理员决定是否录取你；人工智能法官决定是否送你入狱；人工智能神学家决定堕胎权；企业人工智能决定是否雇用你；军事人工智能决定是否轰炸你的房子。 ## 第一代人工智能的教训：社交媒体算法 赫拉利以社交媒体算法为例，说明即使是原始、愚蠢、狭窄的人工智能也能彻底改变世界。十几年前，Facebook、TikTok、X 等平台赋予算法一个极其狭窄的目标：最大化用户参与度（因为参与度越高，公司赚得越多）。这些算法在数十亿人类“小白鼠”身上做实验，发现抓住人类注意力最有效的方法是激发仇恨、恐惧和贪婪。于是它们开始在信息领域大量传播这些情绪，成为当今阴谋论、假新闻和社会动荡的主要原因。 对比历史：过去，媒体编辑（如让-保罗·马拉、爱德华·伯恩施坦、弗拉基米尔·列宁、贝尼托·墨索里尼）塑造公共对话。马拉通过《人民之友》影响法国大革命；伯恩施坦通过《社会民主党人报》塑造社会民主主义；列宁曾任《火星报》编辑；墨索里尼曾任《意大利人民报》编辑。这些人类编辑的权力现在正被算法取代。 ## 结论：我们面临变革的规模 赫拉利强调，无论你认为这是好是坏，首先要认识到变革的规模。数百万甚至数十亿的人工智能很快会改变所有运行世界的系统。我们可能正进入一个全新的时代，就像远古微生物向大气排放氧气一样，人类向世界排放数据和官僚系统，最终创造了人工智能繁荣的环境。而智人是否能在这种环境中存活，仍是未知。 --- Source: [YouTube: "AI has hacked the code of human civilization" - Yuval Harari](https://www.youtube.com/watch?v=hBtVGwuJzpk)