缺乏理解的自动化

# 参考文献
来源：https://arxiv.org/html/2607.06377
自动化却不理解——美国为何必须在人工智能时代保留数学能力  Jun–Yong Park

没人会想起清洁的水源，直到它变黄。没人会想起运转正常的法院，直到判决腐败。基础设施的决定性特征就是其不可见性：当它正常工作时，无人注意；当它失效时，所有下游环节都会随之崩溃。数学理解力正是这样一种基础设施。它无形且不可或缺。然而，就在基于它构建的人工智能系统变得比历史上任何技术都更重要、更不透明之际，它却在被瓦解——不是出于恶意，而是源于忽视。

两件事正在同时发生。人工智能系统已经开始做真正的数学：不是计算，而是发现——那种直到不久前还只有受过训练的人类数学家才能做出的发现。而美国，由于预算混乱和体制漂移，正在削弱培养能够理解机器行为的人类人才管道。这两件事单独来看都值得关注。但第二件事与第一件事同时发生，构成了一个战略失误。

## 机器能做数学

今年5月20日，OpenAI宣布在离散几何中的平面单位距离问题上取得突破[2 (https://arxiv.org/html/2607.06377#bib.bib2)]，该问题由匈牙利数学家Paul Erdős于1946年首次提出[1 (https://arxiv.org/html/2607.06377#bib.bib1)]。问题听起来很简单：在平面上分散放置n个点，问其中有多少对点恰好相距一个单位长度。Erdős猜想了一个上限，八十年来组合数学界最聪明的人都相信他。该模型证明他错了。它构造了一系列点排列，突破了猜测的上限，并且它借助了代数数论的工具，包括类域塔——一个原本为完全不同的目的而建立的数学分支。

这一主张并非仅凭公司之言。同一天，九位数学家发表了一篇配套论文[3 (https://arxiv.org/html/2607.06377#bib.bib3),4 (https://arxiv.org/html/2607.06377#bib.bib4)]，验证了论证并将其翻译成人类的数学语言。其中包括菲尔兹奖得主Timothy Gowers，他写道，如果这是一个人类提交给该领域最负盛名的期刊《数学年刊》的结果，他会毫不犹豫地推荐接受。

这一结果也并非噱头。所涉及的系统并非为数学而设计；它是一个足够强大的通用推理模型，完成了人类从未做到的事情。而发展轨迹十分陡峭。2024年，Google DeepMind的专用系统在国际数学奥林匹克题目上达到了银牌标准[5 (https://arxiv.org/html/2607.06377#bib.bib5)]。一年后，OpenAI和Google DeepMind的通用模型都达到了金牌标准[6 (https://arxiv.org/html/2607.06377#bib.bib6),7 (https://arxiv.org/html/2607.06377#bib.bib7)]。如今，前沿模型能够产生非显而易见的构造，识别跨领域联系，并参与研究级别的工作。

机器正在做数学。这句话在三年前还有争议。如今它已是事实。问题不再是它们能否做到。问题是美国是否还能保留理解、验证、指导、并在必要时拒绝机器产出的人类能力。

## 悄然瓦解

正是在这个时刻，这种能力正在被削弱。去年，政府提议将国家科学基金会（NSF）的预算削减一半以上；在该提案中，数学和物理科学的资金将减少约三分之二，而数学科学的具体削减，分析师认为超过了70%。国会最终拒绝了大部分削减：一月份签署的拨款法案使NSF大致持平，为87.5亿美元，而前一年约为90亿美元。

但损失并未等到最终数字才发生。根据《科学美国人》的分析[8 (https://arxiv.org/html/2607.06377#bib.bib8)]，在数月的动荡中，已经承诺给数学项目的1400多万美元拨款被追回。NSF取消了一个全国女性数学研究研讨会，距离原定开始只有四个工作日。美国数学学会——一个专业学会而非资助机构——不得不紧急设立100万美元的“后盾”拨款，以维持陷入困境的项目。而大学在联邦各方面同时面临压力的情况下纷纷退缩：哈佛、普林斯顿、麻省理工以及整个加州大学系统都实施了招聘冻结。

在一年体制混乱之后保持资金持平并非复苏。它是在较低信心水平上的稳定，而且即使是这种稳定也被证明是虚幻的。据《科学》杂志报道，到6月，NSF悄悄削减了数百个基础研究项目，机构内部人士怀疑这是为了腾出超过10亿美元用于一项国会从未资助的新商业化倡议[9 (https://arxiv.org/html/2607.06377#bib.bib9),10 (https://arxiv.org/html/2607.06377#bib.bib10)]。一些领域的削减远远超过了立法者在拨款法案中规定的5%上限，有些项目在资金获批五个月后才得知自己的实际预算。而资金的去向则完整了这场讽刺：新倡议旨在商业化量子系统和人工智能驱动的科学仪器。政府正用从理解这些机器的人那里拿走的钱来资助这些机器。

与此同时，大学已经围绕预期中的衰退进行了重组。退休岗位无人接替。博士生群体缩小：乔治华盛顿大学今年没有招收任何有资助的数学博士生[11 (https://arxiv.org/html/2607.06377#bib.bib11),12 (https://arxiv.org/html/2607.06377#bib.bib12)]，其资金仅够维持已有学生；哈佛大学削减了超过一半的博士招生名额；芝加哥大学宣布减少30%[13 (https://arxiv.org/html/2607.06377#bib.bib13)]。培养下一代数学头脑的管道正在收窄，恰逢机器到来。

这些都不是有意针对数学的政策。它是预算削减、体制重组以及一个听起来合理的推论共同作用的结果：如果机器能做数学，为什么还要花钱请人来做？

答案与让懂水化学的工程师留在自动化处理厂、以及即使机器能起草完美法律意见书也要保留人类法官的原因相同。自动化在失效之前一直有效。每个复杂系统最终都会以设计者未曾预料的方式失败，到那时，国家需要能从内部理解系统的人：能追溯到第一原理追踪失败的人。在判断性领域，这种需求不仅是技术性的，更是公民性的。一个无人理解的判决，是任何机构都无法支持的判决。一个无人理解的系统，是无人能治理的系统。

## 证明是产品，理解是能力

数学能力不是定理的库存。它是由经年累月严格训练转变而来的人群，是能看见复杂性中的抽象结构、检测形式系统遗漏的错误、并以异常精确的方式进行推理的头脑。没有人通过读书就学会像数学家一样思考。人们是通过多年面对最初超出自己能力的理论框架，在同样方式学习的人指导下，在相信这种训练值得维持的机构内部，才学会的。

取消资金、削弱机构，培训管道就会断裂。一旦断裂，能力不会在别处得到保存；它会变得更薄弱、更不均匀、更难重建。一个国家不能像按需召集军官团或核工程师团队那样，按需召集一支数学工作者队伍。培训需要数年。智力传统需要几代人。

通常的回应是，未来学生可以从录播讲座、存档教材或人工智能导师那里学习。但数学能力不是信息体；它是一种实践性的判断形式。每一个曾经做过的手术都可以被录制成视频。没有人会据此尝试心脏直视手术。

证明是产品。理解是能力。机器可能会越来越多地制造产品。解释、检验、扩展和质疑它的能力，仍然必须在人类头脑中培养，并由训练这些头脑的机构来维持。当承载这种判断的人消失后，书籍仍在书架上。但阅读它们的能力不复存在。

Erdős事件本身就说明了这一点。配套论文的作者明确表示，人类专家必须讨论、简化并改进机器的论证，该领域才能吸收它。证明变成了知识——其他数学家现在可以在此基础上构建——仅仅是因为存在一个受过训练能够接收它的社群。这个社群就是资产，而每一个由机器生成的定理都提升了其价值。

这种训练培养出的习惯远不止数学本身。数学家学会了在快速运转的机构中常常不受欢迎的提问方式：讨论的对象到底是什么？哪些假设在起作用？什么才算反例？结论是否确实从前提得出？表面模式是结构性的，还是仅仅是偶然的？这些正是审核模型、揭露隐藏假设、区分稳健结果与数据伪影、以及识别何时形式系统被要求回答它并不设计用来回答的问题时所需要的习惯。

纯数学还保留了一种异常严肃的批评文化。在一个好的研讨会上，权威是不够的。著名演讲者和一年级研究生面对同样的要求：定义术语，证明推论，使论证清晰。这种文化不能通过购买更多芯片或分配更多资本来重建。它需要时间、体制连续性，以及足够大的社群来维持任何个体无法独自维持的标准。

这就是面临风险的东西。

## 涌现而不理解

当今大型语言模型背后的训练目标看似简单：预测序列中的下一个标记。然而，经过足够大规模训练，再通过后训练和扩展推理进行精炼的系统，展现出抽象、规划和多步骤问题解决的形式，而它们的创造者也并不完全理解这些。它们从未停止预测标记，但涌现出的行为越来越难以用构建它的词汇来描述。一个被训练来续写文本的系统，现在可以推翻一个八十年的猜想。规则的简单性与结果的复杂性之间的差距，是当下最重要的科学事实之一。

关于可解释性、形式验证以及学习表征理论的认真工作正在进行。但这些努力相对于它们试图解释的系统仍然不成熟。目前还没有系统的数学理论来解释大型人工神经网络如何形成内部概念、为什么某些能力会突然出现、或者如何预测在给定规模下会出现哪些推理形式。

有一些迹象表明这样的理论需要解释什么。几年前，研究人员在一个小的模算术（本科数论的基本内容）上训练了一个小型人工神经网络，然后反向工程了它所学到的东西[14 (https://arxiv.org/html/2607.06377#bib.bib14)]。这个网络并没有记住答案。它独立地收敛到一个基于离散傅里叶变换和三角恒等式的算法，将加法转换为绕圆旋转：没有教给它、而且其设计者也没有预料到的数学结构。这一事件在年轻的机械可解释性领域备受赞誉，但它最重要的教训通常被忽略。解码这个网络之所以可能，只是因为研究人员能够识别出傅里叶结构。机器的内部运作只有具备相应数学知识的人类才能读懂。而那只是一个玩具模型；前沿系统规模要大上几个数量级。我们无法用数学版的放大镜来映射前沿模型学到了什么。

当数学家遇到一个陌生对象时，他们不仅会问它表现如何。他们还会问它是什么类型的对象：它的不变量是什么？它的对称性呢？它的极限行为呢？哪些例子是典型的，哪些表面现象是特定表述的产物？对于前沿人工智能系统的内部表示空间，目前还没有这样的框架。现有工具揭示的是碎片：电路、特征、缩放曲线。但碎片不是理论。我们可以检查机器的某些部分，却不知道整个机器变成了什么样的数学对象。

体制层面加剧了科学层面。前沿模型是在巨大的公共遗产上训练的：论文、教科书、讲义和已解决问题，这些主要来自大学和公共研究机构。然而，构建和研究最强大系统的工作现在发生在少数私人公司内部，独立审查所需的模型、数据和实验的外部访问十分有限。能够理解这些系统的公共智力基础设施，已经跟不上能够构建它们的私人基础设施。社会正在依赖那些能力进步快于解释它们的科学的系统。

纯数学无法独自弥合这一差距；机器学习、计算机科学、统计学、形式方法、安全工程或治理也无法。但数学必须居于联合努力的中心，因为任务不仅仅是为了让系统更强大。而是为了发展概念框架，使它们的结构得以理解，它们的主张得以审核，它们的极限得以知晓。

## 首次接触问题

人工超级智能可能很快到来，也可能迟到，或者永远不来。没有人知道，一个负责任的论证不会假装知道。更直接的问题已经在这里：机构开始将判断委托给那些其推理过程无法完全检查的系统。一个模型可能为军事后勤、金融风险、科学研究、网络安全或关键基础设施提供建议。它可能正确得足够频繁，以至于变得不可或缺。不可或缺但不可理解，这是一种危险的交易。

当这样一个系统提出具有严重后果的建议时，“模型说了”不能成为讨论的终点。必须有人能够问：优化了什么？哪些证据被遗漏了？哪些失败模式仍然可能？系统是否回答了它实际上被问的问题？这已经很难了。随着系统变得更强大，这将变得更加困难。

那么，假设人工超级