欢迎来到数学AI危机

# 欢迎来到数学领域的AI危机 来源：https://www.theverge.com/podcast/982434/ai-math-openai-astra-existential-crisis 今日在*解码器*节目，我与《The Verge》伦敦AI记者Robert Hart探讨AI对数学领域的影响，以及许多顶尖数学家因此产生的存在主义危机。 OpenAI刚刚发布(https://openai.com/index/ten-advances-in-mathematics/)一系列解决数学长期难题的方案，在学界引发震动。这引发了数学界的激烈辩论，Rob近期就此采访了多位当代杰出数学家(https://www.theverge.com/ai-artificial-intelligence/977273/the-ai-takeover-of-mathematics-has-begun)。 有趣的是，AI系统在基础算术方面仍表现不佳，却在尖端抽象数学领域日益精进。这引发了数学界的深刻质疑： 若AI能完成如此高水准的数学工作，是否意味着AI实验室可将这些能力迁移至其他领域？当前沿模型能解答所有未解难题时，学术基金和高校培养新一代人类数学家解决新问题的努力还有何意义？ 这些对数学的关注，是否只是前沿AI实验室的大型营销活动？它们对这个最古老、最基础的学术学科命运根本毫不在意？ 话题涉及诸多方面，Robert与众多观点各异的人士进行了深入交流。 好，以下是《The Verge》AI记者Robert Hart关于AI如何改变数学的访谈。现在开始。 *本次采访为提升清晰度与流畅度进行了轻微编辑* **Robert Hart，您是《The Verge》驻伦敦AI记者。欢迎来到《解码器》。** 感谢邀请。 **非常高兴与您交谈。特别是近期您深入研究的AI与数学领域动态**(https://www.theverge.com/ai-artificial-intelligence/977273/the-ai-takeover-of-mathematics-has-begun)**，您采访了多位顶尖数学家探讨AI引发的数学危机。** **这感觉信息量巨大，同时我们对这两个领域的互动仍有许多未知。这是一场彻头彻尾的存在主义危机，正是《解码器》探讨的典型话题。请为我们概述整体情况。** 我认为"信息量巨大"概括得很准确。本质上，这是数学界在"什么是数学？数学家在做什么？数学家未来角色何在？"这些问题上产生的存在主义危机。 这一切很大程度上源于AI能力在近六个月到一年间的飞跃式发展。AI从"非常糟糕"迅速提升到"似乎真正达到专业水平"。这是其他领域过去五年一直在艰难应对的变化，而在数学领域被高度压缩呈现。 **我会联想到软件工程领域。软件工程界的AI危机已持续一段时间。但就在2024年甚至去年，普遍认知仍是AI模型尤其不擅长数学。经典案例是这些模型甚至无法数清单词"strawberry"中的字母R**(https://medium.com/@JerryCuomo/why-ai-gets-the-strawberry-question-wrong-eba66c7dedd2)**，连计数都会出错。** **是什么让它们在数学方面进步了？它们是仍不擅长基础算术但精于高等数学，还是处于中间状态？** 它们在某些数学领域确实仍然糟糕透顶。我查证过，现在它们能正确数草莓了——看来有人做了调整。 **我怀疑草莓问题是被硬编码的。我想明确我的阴谋论：草莓问题被硬编码进了所有模型。** 我也这么认为。这个阴谋论我认同。 但没错，它们在诸如计数、算术甚至星期几这类事情上依然糟糕。我男友前几天说："它总认为今天是周三，但明明不是。"还有时间感知——我们的Elissa Welle几个月前报道过ChatGPT无法判断时间(https://www.theverge.com/report/829137/openai-chatgpt-time-date)，至今仍如此。但这并非数学的全部。 这里存在脱节：要擅长数学，本应擅长计数、加法或乘法。但数学很大程度上是推理。你看学术数学论文，多数时候根本不见数字——这很能说明问题。所以它们在这方面仍糟糕，但在其他方面已变得非常出色。 至于原因，我认为这些系统的能力在某个点达到临界质量。我们在写作、编程领域都见过这种情况：它们擅长在不同领域间建立联系，以新方式应用旧方法。新训练的模型似乎达到了突破点，从而具备了数学能力。 需要强调，我们常将数学视为单一学科（尤其外行如此想象）。但想想生物学：从观察动物行为到细胞机制、生物化学，涵盖范围极广。数学同样非单一学科。AI在某些领域表现出色，某些领域（如计数）仍很糟糕。 即使在抽象层面，有数学家指出拓扑学是AI仍表现欠佳的领域。坦白说我无法验证，这超出了我的专业范畴。总体而言，现状优劣参半。 **您描述了数学作为庞大领域的多样性。有些领域模型已相当出色，有些基础领域（如简单计数）仍力不从心，中间地带则呈现广泛光谱。** **存在主义危机是源于中间地带的不确定性？还是出现在AI表现卓越的领域？** 两者兼有——我认为这将是贯穿本次讨论的主题。没人会害怕AI成为平庸的数学家，但显然这个领域有重大影响。就研究要素或前沿进展而言（正如我们看到的许多引爆热议的成果），AI在某些领域似乎已能产出媲美优秀数学家的成果，同时其他领域它仍无法计数。 这一切关联着AI是否会重塑就业结构或资助结构的问题。您还提出了一个模糊问题：数学知识的本质是什么？这些工作者未来将扮演何种角色？所有这些问题交织在一起。 **我认为这与AI在各领域的崛起轨迹吻合。凡是只需增加算力或计算就能解决的问题，只要存在某种可验证性，模型似乎就能持续进步。但中间地带——需要世界知识或模型对世界本身有真正理解的领域——它们似乎举步维艰。** **数学中这些领域（至少在您文章和实验室宣传中提到的）几乎都是自成体系的理论问题。正是在这些领域，模型能生成证明或解决无人能解的问题，然后可反复验证运行。** **这引向今年5月的事件：我们未实际见过的OpenAI内部模型否证了单位距离猜想——一个困扰数学界80年的问题。近期OpenAI推出的Astra模型更成为转折点，被普遍视为存在主义危机的标志。** **Astra取得了什么成就？为何如此重要？** 我基本确定之前的内部模型也是Astra。OpenAI仅将其列为未具名内部模型。当我询问时他们未作回应。 几周前OpenAI发布博文(https://openai.com/index/ten-advances-in-mathematics/)，附带数百页证明材料，题为"数学与理论计算机科学的10项进展"。他们声称最新模型Astra在量子博弈论（我无法解释）等多个领域解决了这些难题，还包括高维球体堆积问题等其他学科成果。 这在数学界引起巨大震动，堪称重磅突破。如前所述，此前虽有个别突破，但OpenAI一次性发布10项重大成果。研究者告诉我，如果是人类解决了其中任一问题就足以令人惊叹，若有人能解决全部10个则难以置信。 关键在于这些都是数学家真正关心的问题。以往许多突破常被质疑是数学家不太涉足的领域，而这些是优秀数学家耗费大量时间仍未攻克的难题。 **让我们谈谈这10项成果。您进行了报道，OpenAI也提供了文档。但它们并非完全凭空产生的算力成果，对吗？** **这些基于前人工作，存在署名问题。学界反应如何？是认为"模型完成了这些工作"？还是像对许多AI成果那样质疑"你们窃取成果却未署名，站在巨人肩膀上却未提及巨人"？反应如何？** 从我采访情况看，总体反应相当积极。正如所说，这些都是数学家关心的难题。其中一项成果因OpenAI的署名方式和博文公告方式特别引人关注。OpenAI最初声称这10个问题在过去10年毫无进展，但仔细阅读论文会发现其中一篇明确写道"我们基于这两位研究者的进展"。 这点后来被悄然修改。但部分受访者对此表示不满，认为存在"你们大量使用某成果却未署名，这与你们自己的表述矛盾"的问题。不过我也采访到被点名的研究者之一，他对整件事态度矛盾，所以反应确实参差不齐。 普遍印象是成果令人印象深刻。这些是真正困扰学界的突破，且确实推进了领域发展。若人类数学家完成这些，多位研究者坦言："只要解决其中任何一题，就足以奠定学术生涯。" **有趣的是，学术界的署名与致谢是核心规范，而AI公司却似乎能以人类无法接受的草率态度蒙混过关。** **成果的规模或工作量是否抵消了草率问题？若人类完成同样成果却如此草率，反应会相同吗？** 我内心总想坚持"这像抄袭"的观点。但实际阅读他们发布的论文（某受访者表示全球可能仅50人会深入研读），其中并未试图抄袭。我认为这只是新闻稿撰写欠妥。 报道科学十余年，我深知新闻稿常夸大发现的重要性、影响与新颖性。这次不过是又一个案例。 **这种模式可复现吗？他们证明解决了10个先前无法解决的问题，是否有证据表明能再解决10个？** 这正是关键问题。我采访的近十位人士都提出疑问："为获得这10个成果，他们尝试了多少次？"他们知道答案，但不会透露。 这是核心问题。目前不清楚获得这些成果需要多少次尝试。如果这是他们首次尝试就获得10项惊人成果，那确实令人佩服。 目前不清楚他们接下来会专注哪些领域及原因。我认为选择公布哪些问题的解决背后有商业考量。所有AI实验室都在幕后招聘一批资深数学家，因此是否能再次取得类似突破仍是未知数。 关于验证，数学作为特殊学科，其可重复性与实验科学不同。证明就是证明，如果有效就有效。问题在于：他人能否理解他们的工作？每个领域高度专业化，将有该领域数学家验证这些成果。我采访的相关领域研究者均表示成果看起来可靠。 数学中存在称为Lean的编程与计算证明语言，可将数学证明编码化并运行验证。我不断使用"证明"这个词，但它确实能检验所有推理的严谨性与假设条件，OpenAI也公布了相关代码。因此成果看似成立。虽然有人认为新闻稿或舆论存在炒作，但我采访的所有人士似乎都未质疑其宣称的本质性突破。 **我想再探讨这个话题。数学证明是纯粹的逻辑过程——就像高中时痛苦撰写微积分证明的过程，任何人都能逐步检验"这个证明是否成立"。** **然后是软件代码部分（如您描述的Lean），可将纯逻辑用代码表达并运行验证。我能理解AI如何从理论上擅长这些：执行推理生成代码，运行代码获得验证。我们在软件工程中见过这种模式——代码运行与否、可验证与否，模型都能通过推理完成。** **然后是我认为您暗示的核心问题：这个过程需要运行多少次？我们能否验证这些模型是独立完成，而非被实验室高薪聘请的人类数学家引导？这暗示着领域秩序正在被颠覆？** **您引用了菲尔兹奖得主James Maynard的话，他说自己一直在进行"灵魂拷问"。我反复琢磨这句话。您采访的其他数学家也表达了类似观点...**