“纯粹的疯狂”：数学家们需要数年时间才能消化 OpenAI 的最新发布

# "纯粹的疯狂"：数学家们需要数年才能消化 OpenAI 的最新发布 来源：https://www.theverge.com/ai-artificial-intelligence/1008726/openai-mathematics-solutions-chaos "令人震惊。""压倒性的。""史无前例的。""超现实的。""纯粹的疯狂。" 这是三十六位以上数学家在与 *The Verge* 的对话中使用的描述词，他们试图理解 OpenAI 本周突然向该领域倾泻而下的大量数学成果（https://www.theverge.com/ai-artificial-intelligence/1005004/openai-math-release-github）。在敬畏、兴奋以及对这波成果巨大规模的不确定性之下，还有一种根深蒂固的焦虑：这一切意味着什么——以及接下来会发生什么。尽管反应各异，研究者们一致认为，仅仅理解 OpenAI 发布了什么就可能需要数年时间，更不用说弄清楚数学家们自己在这个正在巨变的领域中如今处于什么位置。许多人担心 OpenAI 不会等那么久才继续前进——或者发布更多成果。 总的来说，OpenAI 发布了近 400 项 AI 生成的数学成果，分布在 700 多篇手稿中，涵盖了组合数学、多个几何分支、数论、理论计算机科学、代数、拓扑、概率与统计力学以及数学物理等众多领域。这批材料的规模如此庞大，以至于 OpenAI 觉得有必要发布导航指南（https://github.com/openai/math），帮助人们浏览这个庞大的 GitHub 仓库。 仅凭工作量之巨大，要对 OpenAI 究竟发布了什么做出初步评估就已经十分困难。在发布后的数小时乃至数天内，*The Verge* 采访的大多数数学家表示，他们仍在努力消化全部内容；有几位表示，仅仅是通读大约 40 页的目录和摘要就花了他们将近一个小时。康涅狄格大学数学教授 Álvaro Lozano-Robledo 说："仅仅浏览所有摘要就令人不堪重负。" 在数百篇手稿中，散布着一些 Lean 形式化验证。Lean 是一种编程语言和证明辅助工具，可以对成果进行计算验证。这些形式化验证在评估 OpenAI 之前的某些数学声明时发挥了关键作用，使研究者即使不完全理解背后的论证，也能确信某个声明在逻辑上是正确的。 "如果 AI 现在就消失，就像外星人来到地球然后又离开了，我们也会在未来 10 年里研究这些成果，试图理解其中的一切。" 但各项成果被验证的程度差异巨大。在 GitHub 上，OpenAI 承认（https://github.com/openai/math）这些成果"处于不同的验证阶段"，并且"许多（但不是全部）手稿已经完成了形式化"。截至撰稿时，这批材料中不到一半的手稿似乎已被形式化描述。OpenAI 表示，在 719 篇手稿中，仅有 300 项核心成果完成了形式化，约占 42%，并表示"随着我们获得更多的形式化，将会更新仓库"。 几位数学家向 *The Verge* 抱怨缺乏形式化，尤其是考虑到成果数量之多，他们强调即使 Lean 代码伴随某个成果，评估也并非即时的。研究者必须检查形式化是否真正证明了所声称的内容，这本身又是一个耗时的过程。几位深入研读论文的研究者表示，即使提供了可供计算机验证的证明，其质量参差不齐，所验证的命题也并非总是与伴随手稿中的声明完全对应。 伦敦帝国理工学院数学教授 Kevin Buzzard 说，他在自己的研究领域——代数数论中辨认出了大量定理，但其中只有大约六项立即"引人注目"。其中几乎没有（如果有的话）经过 Lean 形式化验证。"因此，我要么得阅读可能不正确的垃圾文本，要么等别人做同样的事情，要么等某人将它们形式化，才能确定这些结果是否正确。"Buzzard 的担忧得到了许多其他研究者的呼应。 Buzzard 对 AI"垃圾内容"（slop）的担忧绝非孤例。这个词是对一种低质量、经常出错的 AI 生成材料的简称，这种材料越来越多地出现在网上——以及现实世界中（https://www.theverge.com/ai-artificial-intelligence/989376/ai-generated-food-why-does-it-look-like-that）——包括学术论文（https://www.theverge.com/ai-artificial-intelligence/930522/ai-research-papers-slop-peer-review-problem）。与其他领域一样，数学家们告诉 *The Verge*，近年来使用 ChatGPT 和 Claude 等工具生成的此类材料大幅增加。其中许多内容令人困惑、难以阅读，几乎看不出对相关学科的理解；在引用其他研究者的工作方面尤其粗制滥造。 OpenAI 之前的数学成果报告曾（https://www.theverge.com/ai-artificial-intelligence/992953/openai-math-millennium-prize-navier-stokes）被专家们广泛（https://www.theverge.com/ai-artificial-intelligence/994255/openai-millennium-prize-problem-tristan-buckmaster-competition）批评（https://www.theverge.com/ai-artificial-intelligence/977273/the-ai-takeover-of-mathematics-has-begun），批评其粗制滥造的性质，尤其是引用标注的缺失或不当（https://www.theverge.com/ai-artificial-intelligence/993263/where-does-openai-get-mathematics-training-data）。在发布前与 *The Verge* 的交流中，几位研究者已将即将到来的论文洪流称为"垃圾末日"（slopocalypse），或类似的各种变体。 令人担心的"垃圾末日"是否真的发生了，目前很难判断，很大程度上是因为发布材料的体量令人目眩。早期迹象表明，OpenAI 这次对论文更加谨慎，至少对部分论文如此。几位数学家告诉 *The Verge*，他们的第一印象远好于预期，但按照他们自己的说法，鉴于该公司此前粗制滥造的出版物，这门槛本身也不高。 "这是一团大乱局。它可能导致学术文化的巨大崩塌，并杀死大部分院系。这是一个社会问题，而 AI 实验室似乎完全忽视了这个问题。" 但"更好"并不意味着"好"，更不意味着达到学术界通常对声称如此重大成果的论文所期待的标准。由于 OpenAI 许多声明缺乏形式验证，伴随论文的质量就变得尤为重要；它们是数学家确认、理解、审视和将成果置于适当学术脉络中的主要手段。 即使在最理想的条件下，撰写严谨的数学论文也是困难的工作。以这样的规模进行更是一项艰巨的任务。OpenAI 的模型正以令人眼花缭乱的速度输出数学成果，且覆盖极为广泛的专业领域，远远超出了其人类员工的能力。该公司根本不具备在数学前沿领域对其发现进行适当审查所需的专业广度和资源。研究者告诉 *The Verge*，这很明显。 许多研究者描述的论文很难跟上思路，有时几乎不可能理解。布朗大学数学教授 Brendan Hassett 告诉 *The Verge*："对我最熟悉的那个问题的论文，快速读了一遍基本不知所云。如果这是人写的，我不会再花时间去试图理解它。当然，还有其他 721 篇预印本！"（Hassett 这番话是在 OpenAI 撤回三篇论文之前说的。） 一些研究者告诉 *The Verge*，他们或同事注意到的几篇论文似乎覆盖了其他数学家已经涉足的领域，但他们不愿在有机会适当审阅材料之前公开说出这一点。另一些人指出这些工作异常简短，那些通常需要数百页才能展开的成果被压缩到了几十页甚至更少。 澳大利亚悉尼大学数学教授 Nalini Joshi 说，她在发布内容中快速搜索，发现与其自身工作重叠的内容不多，但她注意到她查看的一些论文"参考文献列表很短"。鉴于此前对 OpenAI 引用标注做法的批评（https://www.theverge.com/ai-artificial-intelligence/993263/where-does-openai-get-mathematics-training-data），她表示"论文中的引用标注可能不完整，对此我感到谨慎"。 但尽管存在种种粗糙和不确定性，总体共识是这批发布内容中包含了一些真正令人印象深刻的工作。 在强调评估如此大量材料的困难——以及对成果进行适当验证的必要性——的同时，*The Verge* 采访的众多研究者表示，尽管表达方式存在不足，这些工作的水准似乎非常高。他们说，在前 AI 时代，OpenAI 的许多成果显然足以在顶级期刊上发表，也可能足以帮助其作者获得一份学术职位。有少数成果被描述为足以让一位数学家成为菲尔兹奖的有力竞争者，菲尔兹奖是该学科最高荣誉之一。 "我要么得阅读可能不正确的垃圾文本，要么等别人做同样的事情，要么等某人将它们形式化，才能确定这些结果是否正确。" 斯坦福大学数学家 Jared Duker Lichtman 说，有"数十项"成果他将归入这一类别，包括朝向黎曼猜想的进展、霍奇猜想的一个特例、以及四维 Kakeya 猜想的证明。这些都是数学中的重大问题。黎曼——可以说是整个学科中最著名的未解问题（https://www.quantamagazine.org/videos/the-riemann-hypothesis-explained/）——和霍奇都是七个著名的千禧年大奖难题（https://www.claymath.org/millennium-problems/）之一。它们分别涉及素数的分布，以及（大体而言）如何用更简单的构建单元来理解复杂的几何形状。而 Kakeya 猜想则大致上问的是旋转一根针或铅笔（https://www.newscientist.com/article/2471211-amazing-spinning-needle-proof-unlocks-a-whole-new-world-of-maths/）至各个方向需要多少空间。今年早些时候，纽约大学数学家 Hong Wang 因 Kakeya 猜想三维版本的证明（https://www.scientificamerican.com/article/2026-fields-medals-go-to-four-young-mathematicians/）获得了菲尔兹奖。 数学家 Scott Armstrong 说："并不是说这些只是没人听说过的愚蠢问题。其中许多是众所周知的问题，许多人尝试了几十年。" 随着尘埃落定，数学家们面对的是一个在他们周围突然改变了面貌的领域。许多人刚刚目睹数年的心血和精心策划的研究计划在一瞬间化为乌有，或者认识的同事经历了这一切。在整个领域中，无论反应是夹杂着兴奋、恐惧、绝望还是介于其间，都有一种深刻的迷失感。 到了第二天早上，这种情绪没有太大变化。Armstrong 在巴黎步行时通过电话表示，如果索邦大学没有因持续的学生抗议而关闭、同事们没有聚在平时的咖啡机旁，气氛将会相当"沉重"。 在苏格兰，圣安德鲁斯大学数学教授 Colva Roney-Dougal 描述了同事和学生中同样阴郁的氛围。她说这场洪流感觉有些"可怕"，但它的到来在数周的不确定性之后带来了一些解脱。"我有一批朋友和同事的资助申请刚刚被彻底摧毁了，"她说。 "我有一批朋友和同事的资助申请刚刚被彻底摧毁了。" Armstrong 说他听说过一个团队的整个研究计划实际上被这次发布"彻底摧毁"。纽约大学数学家 Tristan Buckmaster 是此前 OpenAI 在 Navier-Stokes 问题上引发争议（https://www.theverge.com/ai-artificial-intelligence/994255/openai-millennium-prize-problem-tristan-buckmaster-competition）的中心人物，他则表示他已经听说"有三个人的整个研究计划被彻底摧毁了"。 类似的故事在 *The Verge* 与数学家的交流中反复出现，尽管这种冲击高度集中在领域的某些区域。苏格兰赫瑞瓦特大学数学教授 Francesco Fournier-Facio 说，概率论、组合数学和理论计算机科学的研究者似乎"尤其震惊"，并补充说他所在的群论领域的一些区域已被"夷为平地"。 Armstrong 和其他研究者说，一些领域似乎是以近乎军事化的精确度瞄准的。"确实存在一些明确的目标，"Armstrong 说。他特别指出了今年获得菲尔兹奖的那个领域的工作，以及几个千禧年大奖难题。他说，数学物理领域的一簇成果清楚地表明，OpenAI 正在追索 Yang-Mills 理论（https://www.claymath.org/millennium/yang-mills-the-maths-gap/）——支撑大量现代粒子物理学的数学框架——及其悬而未决的"质量间隙"问题，即七个大奖难题之一。 在其他地方，研究者们对自身工作似乎几乎未被触及表达了某种惊讶的宽慰。Roney-Dougal 说，她所在的领域——主要以群论为核心——似乎相对幸免于难。她开玩笑说自己工作在一个"非常不时髦的领域"倒是一件幸运的事，但后来发消息说，发现自己的工作被其中一篇论文引用后，她感到"不安"。 Joshi 同样发现与其工作的重叠很少，她的研究主要集中在可积系统——可以精确求解的复杂系统。她推测这可能是因为她的领域不太受长期存在的、正式表述的猜想和定义驱动，更多地受到与物理学发展相伴相生的问题的影响。 截至 10 月 8 日，该记录已经列出了大量更正，包括对十几篇手稿的修订，以及因"符号错误"而撤回三篇论文——据称该错误使相关论证无效。 无论自己的工作是否受到直接影响，大多数 *The Verge* 采访的数学家都有一种共同的感觉：该领域已经跨越了某种门槛，不再与一天前相同。高等研究院的研究员 Constantin Kogler 称之为"数学史上最重要的单一时刻"，而伦敦数学科学研究所的研究员 Yang-Hui He 则追溯到千年之前，将今年 AI 驱动的发展比作欧几里得《几何原本》的出版——该学科最具影响力的著作之一。 很少有研究者的评估如此宏大，但普遍共识是数学正在快速变化——而数学家们必须随之改变。 OpenAI 知道这次发布将是颠覆性的，并做出了一些努力来缓和冲击并与数学界互动。在今年早些时候与研究者经历几次激烈交锋之后，该公司转向数学家自身寻求帮助，与...