没有数学家的数学

# 没有数学家的数学 来源：https://borretti.me/article/mathematics-without-mathematicians 昨天，OpenAI 宣布（https://openai.com/index/ten-advances-in-mathematics/）解决了数学中的十个开放问题，这些发现全部来自一个尚未发布的模型。其中只有一个，即编码理论的那个，我了解得足够多，可以说“嗯，这很重要”，但据我信任的数学家说，这很重要。 不可避免地，人们会编造一些诡辩来应对，说服自己一切都不会改变。这没问题。人们需要应对。但在世界在我们周围改变的同时，我们不能永远把头埋在沙子里。所以，这里列出人们将如何应对 AI 接管数学的各种方式，以及每种应对方式可能如何被现实驳斥。 我的意图不是让所有人都极度沮丧，而是帮助他们消化这项技术的影响。这里的论点有一定通用性：根据需要把“数学”换成“植物学”之类的即可。 **“移动球门柱。”** 显而易见，不值得讨论。 **“我们会指导 AI，让它们去解决问题和研究领域。”** AI 将在品味（https://www.benkuhn.net/impact/#ii-taste）和直觉上超过人类。在某个时刻，指明方向的人类所获得的结果，将不如那个说“给你一个证明检查器，尽情玩吧”并支付 token 费用的人。 **“我们将教授 AI 发现的数学。”** AI 将比人类更擅长教学。无论如何，前沿数学的解释性工作将不再有人类读者。 **“我们将选择如何将 AI 发现的结果经典化。”** 这是一种不错的应对方式。AI 是前沿的探索者，人类感激地接收它们的 Lean 证明，然后对它们进行讨论，选择哪些结果是相关的，将这些结果塑造成代数大教堂（https://github.com/leanprover-community/mathlib4）的一块小砖。与上述类似：AI 将自行建造大教堂。它们将是比我们更好的建筑师。 **“我们将成为 AI 数学的学生。”** 这种方法一直有效，直到 AI 深入 mathlib 的演绎闭包，使得从基础数学到前沿的距离超过了任何人在一生中有望学习的范围，无论他们的焦点多么狭窄。 **“我们需要人类理解 AI 发现的结果。”** 我们不需要！这误解了未来的受众是谁。AI 将做前沿数学，随后，AI 将利用新的数学做前沿科学，最后，AI 将利用新的科学做前沿工程。没有任何人类需要理解其中任何一部分，那些把人类放在流程中以便理解结果的公司，将在竞争中被不这么做的公司淘汰。 其结果是，我们将生活在一个魔鬼出没的世界，到处都是奇妙的设备，我们不会理解它们的运作，它们基于我们不会理解的工程原理，使用我们不会理解的形式体系被发现。 **“计算机在国际象棋上已经超越人类，但我们仍然下棋。”** 与大多数应对方式不同，我认为这个很有意思。计算机是超人类国际象棋棋手，但我们并不在意，继续正常下棋。为什么数学就应该不同呢？ 我认为主要原因是，国际象棋是自足的：国际象棋的结果不能帮助我们理解行星的轨道或药物与蛋白质表面的结合。但数学，众所周知（https://en.wikipedia.org/wiki/The_Unreasonable_Effectiveness_of_Mathematics_in_the_Natural_Sciences），是科学的大引擎，是理解世界的最佳语言和方法。一台能取代人类数学家，但更好、更快、更便宜的机器，在物质上是有用的；而一个更好的国际象棋引擎则不是。 如果两台在国际象棋上超人类的计算机相互对弈，谁在乎呢？对此几乎没有需求，所以没有可竞争的对象。超人类数学家则不同。 **“数学会改变，但数学家和对数学感兴趣的人仍然会自己做数学。”** 我认为这忽略了数学是嵌入在社会背景中的。举个例子：当 AI 将吞噬软件这一点变得明朗时，我的应对方式是：“我完全乐意在我的职业生涯中成为代理的工程经理；在业余时间，我仍然可以为乐趣而写代码（https://github.com/eudoxia0/）。” 我确实如此。但这种应对方式忽略了 AI 对编写代码的社会背景造成的影响：讨论变得更糟，反智倾向大大增加；过去谈论类型系统和编译器的人，现在谈论 “loops” 和 “harnesses”；你把手写的项目放到 GitHub 上，会收到垃圾 PR；你打开一个看起来有趣的项目的链接，却发现 README 是无法阅读的 AI 垃圾。从长远来看，想到这些令人沮丧：还会有人设计新的编程语言吗？反过来，如果我设计一种新语言，会有人在乎吗？如果我写一个库，引入一种优雅的新形式体系来解决某个特定问题，会有人使用它吗？ 也就是说：没有人是一座孤岛。你可以自己做数学，但你会发现，很少有人能仅仅依靠内在动机长期坚持任何活动。我们是社会动物：我们在乎自己是否有用，在乎地位，在乎世界上的结果。 ## 结论 我想我应该以愉快的语气结束。所以让我试试。就我个人而言，我不相信技术是不可避免的。“不可避免”这个词只适用于行星的轨道。人类行为的产物没有什么是不可避免的。我们可以选择让自己过时，也可以选择不这样做。我们可以认识到，AGI 是一笔魔鬼交易：我们*可能*加速技术进步，我们*可能*比原本更早解锁各种奇妙的技术树节点，比如延长寿命；但长期来看，结果是人类至多变成在远更强大的实体照看下的宠物。 ## 关于预测的说明 未来并不确定，但为了简洁，我在上面把所有内容都说得像是定论。如果我们认真对待 AGI 和 ASI 的可能性，如果 AI 继续像过去大约 6 年那样发展，我认为这是对未来走向的一个合理看法。 也许反对 AI 进步的最好论据是：“RL 的泛化能力不好，我们在形式化数学和编码等可验证领域看到了巨大进展，在直觉性强或无法形式化的领域将看到较少进展。”也许是真的。但数十亿美元和成千上万非常聪明的人——而且越来越多非常聪明的模型——正在投入到这个问题上。这种应对方式能持续多久？