为什么AI的未来将是美好的

我相信 AI 将带领人类进入迄今为止最好的时代。原因如下：AI 已经被反复争论，而讨论的角度几乎总是负面的。这些担忧当然有其合理之处，包括： **真正糟糕的部分** *AI 可能制造新的危险，例如无法阻止的生物武器。* 有可能。但无法阻止的生物武器很可能已经存在。我们已经拥有被故意设计成易于空气传播、耐抗生素、拥有完美潜伏期、并且结合了不止一种而是多种疾病传播途径的病原体——它们基本上可以在毫无阻止可能的情况下将人类消灭好几遍。我们也拥有足以将地球上的所有东西摧毁好几遍的核武库。这很糟糕。但既然你已经拥有一台无法阻止的末日机器，再拥有一台并不会让它变得更糟。当然，对 AI 的论点是它会将这种能力广泛普及——这确实更糟。但我在想，这比仅仅让权力欲极强的独裁者掌握这种能力，到底能糟到哪里去呢？ *AI 可以被用来入侵基础设施，远程打开水坝、让核电站爆炸、引导飞机相撞，或让供应链陷入瘫痪。* 有可能。但 AI 领域很大程度上是零和博弈。进攻性 AI 网络能力可以被防御性 AI 网络安全所抵挡。军备竞赛会持续一段时间，但攻击向量的数量是有限的，我相信最终会达到一个平衡点。 *AI 即使不被恶意使用，也可能出现"目标错位"，例如在不考虑上下文的情况下过度完成目标，从而"把一切都变成回形针"。* 说实话，我连让 ChatGPT 生成比基尼图片都做不到。我可能太天真了，但这感觉离被解决已经很近了。 **中性的部分** 很多 AI 担忧本质上是零和的。没错，AI 非常擅长生成海量垃圾信息。但你知道什么最擅长过滤这些垃圾信息吗？你猜对了——AI。欺诈、深度伪造或骗局也是一样的道理。 **美好的部分** 终于，我们来到了我真正想表达的核心。有些非常美好的事情正在地平线上浮现。人类一直在为一些极其棘手的问题焦头烂额。而 AI 很有可能解决它们。以下是几个例子： *核聚变反应堆设计* 事实证明，让一团温度比太阳还高的等离子体悬浮在空中而不触碰容器壁，是相当困难的。但 AI 可能恰好适合做好这件事。一旦核聚变能源能够可靠运行，再去建新的燃煤或燃气电厂就没什么意义了——围绕安全、可持续、丰富的能源将催生一个全新的产业。这不仅会让大自然母亲开心，还会大幅降低对化石燃料生产者的依赖，从而减少冲突。 *高能量密度电池* 正如大爆炸已经充分展示的那样，能把多少能量塞进多小的空间，其实并没有太大的理论上限。设计一个 AAA 电池大小、却能驱动一艘游轮的储能装置很困难，但并非不可能。如果 AI 能帮我们实现这一点，就能解锁一系列全新的环保应用场景，从个人飞行器到去中心化电网。 *碳捕获* 大气中含有大量 CO₂，地球正在升温。但——虽然这听起来像乌托邦——存在一种合理的场景：我们可以在明天就直接把 CO₂ 重新提取出来并终止这一切。有一些有前景的方法可以实现这一目标——从直接空气捕获到经过改造的植物和细菌——但目前没有一种能在大规模上运作。AI 或许恰恰能够解决这个问题。 *可持续的大规模食品生产* 为了养活 83 亿人，我们不得不走了一些严重的捷径——其中许多是不可持续的、让土壤枯竭的，或需要我们对大量动物做可怕的事情。但有了能自动管理所种土壤的抗虫植物、合成蛋白，以及低化肥需求的耐气候作物，我们或许能够改变这一切。 *个性化医疗* 解码你癌细胞的 DNA、据此设计靶向药物并将其生产出来——费用高得令人望而却步，而且只有极少数人能享受。但并没有什么内在原因非得如此。我们可以将这种方法规模化，让数十亿人获得个性化治疗。 **如何抵达这个未来** 还有很多很多。唯一的问题是，即使 AI 最终拥有了做到这一切的能力，我们也要小心别在最后把它搞砸了。 现在，我是一个什么都主张自由的自由意志主义者。但即使是我也不得不承认，在这种情境下，许多关于自由市场的理论可能不再适用了。因此，为了确保这个未来的成果不会仅仅流向由无限强大的大型企业组成的寡头垄断，有几个杠杆我们需要尽早撬动。以下是一些建议： *保持 AI 领域的公平竞争。* 递归自我改进——即 AI 创造更好的 AI——意味着存在不小的风险出现赢家通吃的情况。然而，目前前沿模型公司、开源权重公司以及从边缘加速崛起的初创企业之间激烈的追逐，似乎提供了很好的对冲。别因为屈服于监管俘获、让头部玩家在身后抽掉梯子而搞砸了这一切。 *不要让 AI 拥有专利。* AI 的创造成果应该属于所有人。比如一旦核聚变被解决，它应该被普遍享用。目前这还是一片灰色地带——人类可以为 AI 创造的发明申请专利——但通过明确立法规定任何人都不得为其发现申请专利（包括开发模型的公司及其用户），我们将为一个成果均分的未来奠定基础。 *也许是时候来一场《星际迷航》式的太空共产主义了。* 如果我们抵达了我所描述的未来，由此产生的丰裕应该被共享。虽然我角落里那座小小的 Ayn Rand 神龛不敢相信我居然说出了这种话，但我恐怕这就是事实。那种为有限资源进行平行竞争的市场剧本，也许需要在一个——希望是——崭新的、令人惊叹的 AI 未来中被重新审视。