Terence Tao Talks to Numberphile About AI

**TL;DR：陶哲轩认为数学正从"证明稀缺"走向"证明丰饶"的工业化时代，问题在于人类理解被边缘化，而 AI 公司与学术界的激励机制正在发生危险的错位。** ## 十月初发生了什么？ **主持人：** 我们怎么称呼十月初发生的这件大事？OpenAI 发布了数百个证明。这件事有名字吗？通常这么重大的事件都会有个昵称或者名称。 **Terence Tao：** 我想最终会有个名字的。我们还在消化中。目前还没有标准名称。我今年一直在说的是，我们正在从**证明稀缺的时代**过渡到**证明丰饶的时代**。 几千年来，证明一直很难得到。那些找到证明的人需要理解力、专业知识、一点运气、与人交流以及熟悉文献。所以它一直被普遍珍视——每一个证明了困难定理的人都付出了艰辛的工作，这帮助推动了整个领域的发展。 而现在我们找到了捷径。我们找到了能替我们获得这些证明的机器，我们现在淹没在证明之中，但并没有获得过去那种应有的理解。这就像从食物匮乏的时代——那时我们没有太多食物，但每一口食物都是有营养的、健康的——变成了现在淹没在合成食物中，技术上它是可食用的，但不像以前那样令人满足。 ## 数学"英雄时代"的终结 **主持人：** 你觉得你很幸运，生活在证明稀缺的时代，并有机会做出一些重大证明吗？你觉得你是刚好赶在那条线之前进来的人吗？ **Terence Tao：** 是的。我想我们正在见证数学浪漫时代的终结，英雄时代的终结。这种事在其他学科几个世纪前就已经发生了，最早可以追溯到工业革命。但不知怎么的，数学一直坚守着，我们有一些独特的传统。比如，我们都用黑板——你可以看到我用的是这种特别的日本/韩国粉笔。我们有这些怪癖，比如我们会花大量时间一对一地指导研究生。我们有一些神话般的故事，比如 Andrew Wiles 在阁楼上待了七年。你的 YouTube 频道报道过许多这样的故事。 我认为我们正在进入一个工业时代，数学将变得更加大规模，我们将在更大的团队中工作，更像其他科学学科那样——它们已经不得不适应工业化了。 有些东西会失去。那个英雄时代确实有些浪漫的东西，希望我们能保留一部分。至少在我们的教育系统中，我们应该先强调传统的数学方法，然后再引入工业化的东西，就像我们先教孩子手工做算术，然后再给他们计算器一样。我认为我们需要类似的做法。 但确实，这很令人感伤。那个时代很美好，虽然缓慢、在某些方面可能低效。而且英雄崇拜也有其缺点，有赢家和输家。但不管怎样，我们正在进入——虽然相当不情愿——一个新时代，令人兴奋的新事物成为可能，但有些东西正在被失去。问题是我们能保留什么有价值的东西，又可以放下什么。 ## 两条前路：理解与技术 **主持人：** 你使用 AI 已经有一段时间了。我看过你在讲座中谈 AI。从你的演讲中我感受到的态度是相当积极的。你预见到了这一切吗？ **Terence Tao：** 我看到了两条前路。数学发展有两个维度。一个维度是**理解**——人类是否理解发生了什么。另一个维度是你使用多少**技术**——你是用纸笔还是用所有这些技术。过去，我们没有能替我们解决问题的技术。我们有计算器之类的。我们能解决一些数学问题，但大多数数学问题我们需要纸笔。所以我们通过发展理解来进步。我们在理解维度上进步。 大约在 2023 年，我开始看到 ChatGPT 出现了，还有一些其他发展。有一个叫 **Lean** 的形式化语言非常令人兴奋。我能看到这项技术可以真正让我们的许多数学任务变得更轻松、更高效。但问题是，我们是否会**在接受这些技术的同时保持我们的理解**，还是会**为了使用这些工具而牺牲理解**。 就像如果你发明了汽车，你是开始开车然后停止锻炼，还是找到一种工作与生活的平衡——有时开车，有时步行。我能看到一条路会非常不健康，但另一条路会非常令人兴奋。所以我一直在鼓励人们接受这些技术，看看如何以健康的方式使用它们。 但我想我们被事件赶超了。有足够多的人和公司只是一味地追求这些工具的速度、产出和性能，把其他一切放在次要位置。他们愿意把理解丢到一边，以便证明更多定理、发布更多新闻稿、测试他们最新的玩具。这现在正在主导新闻。希望我们能回到一个更平衡的观点，但目前这种"原始 AI、没人理解任何东西、只管加速"是主流思潮。 我认为这不可持续。在某个时刻，缺乏理解真的会带来后果。在数学中，也许还没那么糟糕——如果我们的某个喜爱的问题被 AI 而不是人类解决了，而我们不理解它，很多数学家会感到沮丧，但世界其他部分可以应对。比如纳维-斯托克斯方程，我们有一个没有人真正理解的"团块"解，这没关系。但如果我们在开始用这些 AI 来模拟实际的天气或电网，而它们不断给出我们不理解的建议，那在某个时刻这会造成真正的问题。 ## 灯塔问题该留给谁？ **主持人：** 我听到数学界经常提出的一个论点是，这些特殊问题、这些猜想、这些常被称为灯塔或里程碑的问题，对整个领域非常重要，应该被留下，不应该被 AI 公司触碰。这是你说过的或倡导的观点吗？ **Terence Tao：** 是的。这在某种程度上与我们培养下一代的方式有关。我们建立了这样的体系——学生为了学习数学并获得职业认可，一个非常标准的方式是解决一个中等难度的问题，也许更资深的人自己也能解决这个问题，但有一种默契，我们会把某些问题留给学生。这不是明确分配的，但在某些问题类别上有一种共识，认为这些问题适合学生。如果你不是为了获得职业认可，你就会去研究其他问题。所以有某些类型的训练问题应该留给学生。 过去这不是问题，因为问题太多了，相对而言学生很少，而且问题很难解，所以不缺问题。就像在可持续捕鱼的年代，你不需要把某些渔区分配给特定的人。海里有足够的鱼供大家捕。 但现在我们有了这种**数学露天采矿**——我们有这些巨大的机器，可以像炸鱼一样一次性炸掉成百上千个问题。突然间，我们没有好的问题可以分配给人了。人们过去会分享问题列表，作为给其他人的挑战，用来激励学生。比如 Paul Erdős 就以这种方式闻名。但现在人们不愿意分享他们最喜欢的问题，因为某个带着 AI 提示词的人会在原本目标实现之前——也就是让某个学生或博士后训练出来、发表第一篇论文——抢先解决。 这些 AI 公司和使用这些 AI 工具的随机个人的激励机制，现在与我们数学界传统的激励机制不再一致。至少有一方必须改变。 所以内部，我认为我们必须改变自己的内部激励。我认为我们需要转向更多的协作项目，每个人不再各自研究一个问题，而是由团队研究数百个问题，这样某个特定问题是否被抢发就不那么重要了。但我认为更广泛的社区也需要尊重我们的一些空间。就像如果你组织一场马拉松，一般人不会同时开车沿着同一条路行驶并超过参赛者。理论上你可以这样做，但大家都会觉得这在社交礼仪上不合适。 ## 类比是首选工具 **主持人：** Terence，你太擅长打比方了。你是即兴想出来的，还是因为做了这么多采访，已经练习了很多次？ **Terence Tao：** 两者都有。但我整个数学风格实际上就是基于类比的。我想 Isaiah Berlin 曾经做过一个区分，关于刺猬和狐狸——有些学者是狐狸，他们什么都懂一点。有些是刺猬，他们能把一件事做得非常好。 我一直是一只狐狸，我喜欢把一个数学领域的想法——比如遍历理论——应用到另一个领域，比如组合数学。语言不同，符号不同，但如果你擅长类比，你就能从一个领域理解另一个领域，这对我来说非常有效。我喜欢类比，这是我的首选工具。 ## 过去几周的代价 **主持人：** 从纳维-斯托克斯开始，然后是所有证明的大爆发，似乎有很多内容都围绕着你——虽然你没有参与制作任何东西。你在你的博客上发表了大量客座文章。过去这几周对你来说付出了怎样的代价？ **Terence Tao：** 非常超现实、非常疯狂。我的每一天的每一个小时都被安排满了。我仍然在上课，和学生交流，这实际上是我一天中最正常的部分。然后是采访请求。我为媒体写文章。我做演讲，做大量幻灯片。我几乎没有做数学研究，除了通过我的学生和博士后——他们还在做传统的数学，我在指导他们，但他们已经没有时间思考真正的数学了。 我在所有的群聊里。一件奇怪的事是，我突然一直在和数百位数学学家交流。我有一个群聊，里面有 20 位菲尔兹奖得主。那其实是一个非常有趣的群聊。我们几年前就应该建起来的。 **主持人：** 我很想加入那个群聊，但我确定我听不懂你们在说什么。 **Terence Tao：** 是的。我们应该有更多这样的群聊。这种幕后的故事——香肠是怎么做出来的——我们展示得太少了。我认为这实际上是我们未来会看到更多的一种方式，因为这些 AI 可以生成最终产品、这些漂亮的论文，但它们非常不善于展示你是如何达到那一步的过程。公平地说，人类也不擅长这个，至少过去是这样。我们也生成这些漂亮论文，但不太展示制作过程。我们不会邀请纪录片拍摄。偶尔会有一些开放项目，比如你可能听说过的 Polymath 项目。但我认为实际上我们会看到更多这类项目，因为那是更加人类独有的东西。 ## AI 公司是敌人吗？ **主持人：** AI 公司是敌人吗？我知道你曾与他们合作、有过良好的关系，但现在我们听到很多关于他们的负面声音——追逐新闻稿、追逐公司价值，以及可能将研究成果挪用到他们的产品中。 **Terence Tao：** 首先，我认识这些公司里的一些个人。他们中很多人实际上来自数学界。我把他们中的很多人当作朋友。他们中的很多人对 AI 在科学中应该如何使用有着非常好的、平衡的观点。正如我所说，比如用 AI 来**增强**人类理解而不是取代它。确实有很多个人持有这种心态。 但我认为我们正在意识到的是，这些公司的文化和激励机制，尤其是最大的那几家，与学术界不同。在一段时间内这是可以的。人们有不同的目标和激励是没问题的，只要所有目标都还遥不可及。你们可以朝同一个方向前进，同时推进他们的目标和我们的目标。大约到 2025 年之前都是这种情况。当这些科技公司能够使用这些工具做一些数学时，他们是与数学家合作完成的，因为工具还不够强大来独立完成，而且这基本上是双赢。每个人都或多或少地高兴。 但现在工具如此优秀，它们如此善于优化，我们看到了这种**错位**：如果你继续优化科技公司想要的目标，它们正在偏离社区想要的目标——比如真正理解数学、与下一代交流、维持一个能够提出新问题的人类社群。这些 AI 正在消耗我们的问题池，却没有用任何新的东西来补充它。 在过去，这自然会发生：解决了困难问题的人，自然会有两个新问题作为后续出现。 Source: [Terence Tao Talks to Numberphile About AI](https://www.youtube.com/watch?v=bAnwMdfcMVw)