Tim Gowers:LLM擅长什么样的数学?
摘要
Tim Gowers 思考了LLM擅长处理哪些类型的数学问题,指出最著名的已解决问题涉及反例,并讨论了可能的解释。
暂无内容
查看缓存全文
缓存时间: 2026/08/12 11:18
# LLM 擅长什么样的数学?
来源:https://gowers.wordpress.com/2026/08/12/what-sort-of-maths-are-llms-good-at/
为了照顾可能在遥远的未来(比如说一个月后)读到这篇博客的读者,我先说明一下:我写下这篇文章时,距离 OpenAI 宣布解决数学和理论计算机科学中的十个重大问题仅过了几天。这些问题包括首次构造出非 sofic 群,以及证明多色 Ramsey 数 R(3,3,...,3)(其中有 k 个 3)关于 k 超指数增长。据我参加过的各种报告来看,前者是群论中最重要的未解决问题之一;后者则是 Ramsey 理论中的一个重大开放问题,我原本并不指望在有生之年能看到它被解决——当然,如今这样的预期必须加以修正了。我想明确说明时间节点的原因是,我将在下文讨论 LLM 的当前能力,而我很清楚这些能力会继续快速变化。因此,很可能用不了多久,如果我这篇文章里还有什么有趣的东西,那它的趣味性主要将在于它记录了 2026 年 8 月初的情况。
这些成果以及名单上的其他八项成果都极其令人印象深刻,但 LLM 似乎仍然谈不上在所有数学方面都比所有人类更强。如果它们已经做到了,那么它们相对于我们的巨大速度优势就意味着成果会出现得更汹涌得多。因此,人们自然会好奇:LLM 擅长解决什么样的问题?还有哪些方面仍有改进空间?我并不假装能对这个问题给出好的答案——所谓好的答案,应该是一个清晰的分类,能够很好地贴合当前的例子——但尝试排除一些坏的答案,并找出一些没有明显被当前证据驳斥的潜在答案,倒是一个有趣的练习。
## LLM 特别擅长寻找反例吗?
这里首先要说明的是,LLM 不仅擅长寻找反例:它们也能找到困难命题的证明。然而,值得注意的是,它们解决的最著名问题几乎都是反例,而非证明。上面提到的两个问题如此,Jacobian 猜想和单位距离猜想也是如此。
如果你想提出一种理论,认为 LLM 特别擅长寻找反例,那么要使这个理论更有说服力,最好做两件事。第一件事听起来可能没什么问题:确定什么时候解决一个问题算是“寻找反例”。一旦这一点理清了,第二件事就是提出一个可能的解释,说明为什么 LLM 特别适合解决这类特定问题。
### 找到反例意味着什么?
我为什么说“找到反例”的含义并不完全显然?当然,有人可能会说,它的意思无非就是:你有一个“所有某某类型的对象都具有某某性质”的命题,然后你举出一个给定类型但不具有该性质的对象。
然而,这并不总是行得通。考虑维诺格拉多夫的一个著名结果:每个足够大的正整数都可以表示为三个素数之和。这个命题的否定是(或者说等价于):对于每个正整数 N,都存在一个整数 n ≥ N,使得 n 不能表示为三个素数之和。换句话说,它断言每个正整数 N 都具有某个性质。从这个角度看,维诺格拉多夫找到了一个*不*具有该性质的正整数 N 的例子。我们想说维诺格拉多夫找到了一个反例吗?显然不是——这个结果毫无疑问应该归类为定理,而不是反例。
因此,我们不能天真地说 LLM 特别擅长否定全称量化命题:全称量化的*性质*一定还有某种讲究。以三素数定理为例,维诺格拉多夫显然不会想:“我怎样才能找到具有这个性质的 N?” 他更可能想的是:“我有一个非常大的整数 n。我怎样才能证明它可以表示为三个素数之和?” 换句话说,他的全部注意力都集中在全称量化的 n 上,而存在量化的 N 更像是证明细节完成后的事后补充。
一般来说,许多有趣的结果在形式化表述时,一开始会有两个、三个(或更多)量词的交替。问题就变成了:在某种意义上,哪一个才是第一个“有趣”的量词变量?下面是另一个例子来说明这一点,来自有限维赋范空间理论。对好奇的读者,我会给出一些数学细节;如果你不关心这些细节,可以跳过接下来的三段,仍然能领会我对此例想说的大意。
设 X 和 Y 是两个 n 维赋范空间,设 T 是从 X 到 Y 的线性映射。我们说 T 是一个 C–*同构*,如果存在 λ>0 使得对每个 x∈X 都有 λ|x|≤|Tx|≤Cλ|x|。通过重新缩放,我们总可以取 λ=1,此时就有 |x|≤|Tx|≤C|x| 对所有 x∈X 成立。如果 C=1,那么这告诉我们 T 是一个等距同构。一般地,X 和 Y 之间的 *Banach–Mazur 距离* d(X,Y) 定义为存在从 X 到 Y 的 C-同构的最小 C。容易看出,Banach–Mazur 距离的对数在 n 维赋范空间的等距类集合上是一个度量。一个不那么显然但仍然不算太难的事实是,由此得到的度量空间是紧致的:事实上,它被称为 Banach–Mazur 紧空间。
人们自然会好奇 Banach–Mazur 紧空间的直径是多少,而这里的情况开始变得有趣。Fritz John 的一个结果表明,每个 n 维空间 X 到 ℓ_2^n 的距离至多为 √n。(证明思路如下:在 X 的单位球内选取一个体积最大的 n 维椭球;该椭球是一个与 ℓ_2^n 等距的赋范空间的单位球;可以证明,恒等映射是 X 与 Y 之间的一个 √n-同构。)由 Fritz John 定理和(乘法)三角不等式可知,对任意两个 n 维赋范空间 X,Y,有 d(X,Y)≤n。也就是说,Banach–Mazur 紧空间的直径至多为 n。但它的直径是否会显著小于 n 呢?
一个表明答案并不显然的迹象来自观察空间 ℓ_1^n 和 ℓ_∞^n。这两个空间之间的恒等映射是一个 n-同构,但我们可以做得更好:不把标准基向量映到自身,而是映到单位立方体的顶点,并且选择的顶点尽可能正交。特别地,如果存在 n×n Hadamard 矩阵,那么相应的线性映射就是一个 √n-同构。我们可以进一步推进这一观察,并推出:对任意 ![p,q∈[1,\infty]](https://s0.wp.com/latex.php?latex=p%2Cq%5Cin%5B1%2C%5Cinfty%5D&bg=ffffff&fg=333333&s=0&c=20201002),ℓ_p^n 与 ℓ_q^n 之间的 Banach–Mazur 距离为 O(√n)。同时很容易证明 d(ℓ_1^n,ℓ_2^n)=√n,因此 ℓ_p 空间几乎没有改进那个容易得到的下界,而且在存在 n×n Hadamard 矩阵的维度 n 上根本没有改进。
1981 年,Gluskin 解决了这个问题,确定了 Banach–Mazur 紧空间直径的正确渐近行为,这成为一项著名的工作。粗略地说,他证明了直径与从 Fritz John 定理直接得到的上界只差一个常数。如果我们把量化明确写出来,最终得到的命题是:
∃ c>0 ∀ n ∃ X,Y∈K_n d(X,Y)≥cn,
其中我用 K_n 表示所有 n 维赋范空间组成的集合(如果你要争辩说这不是一个集合,那么让我再补充说明底层向量空间是 ℝ^n)。用语言说就是:存在一个正常数 c,使得对每个正整数 n,都存在 n 维赋范空间 X 和 Y,使得它们之间的 Banach–Mazur 距离至少为 cn。
我不能不简单描述一下 Gluskin 用来解决这个问题的那优美而极具影响力的想法。他取 X 和 Y 为这样的赋范空间:其单位球是随机对称凸集,定义如下:取标准基向量和少数其他随机单位向量,再加上所有这些向量的负向量,然后取凸包。Gluskin 随后证明,如果两个赋范空间从这一分布中选择,那么以大概率它们的 Banach–Mazur 距离至少为 cn。
但回到要点:上述命题的逻辑形式与维诺格拉多夫定理的逻辑形式非常相似,后者是
∃ N ∀ n≥N ∃ p_1,p_2,p_3∈P p_1+p_2+p_3=n
其中 P 表示素数集。然而,维诺格拉多夫的结果毫无疑问是定理,而 Gluskin 的结果毫无疑问是反例,或者至少是一个例子。
这两个命题之间重要的区别是什么?似乎在于:在维诺格拉多夫三素数定理中,数 n 在关于各量化变量所要证明的命题里起着更为本质的作用。在维诺格拉多夫定理中,那个命题是 n=p_1+p_2+p_3;而对于 Gluskin 定理,要证明的命题是
dim X = dim Y = n 且 d(X,Y)≥cn,
这可以等价地写成
dim X = dim Y = n 且 d(X,Y)≥c·dim X。
在维诺格拉多夫定理的情形中,全部挑战在于让那三个素数加起来等于 n;而对 Gluskin 来说,让 X 和 Y 的维数等于 n 一点也不具有挑战性:挑战在于让 X 和 Y 相对于它们的共同维数彼此相距很远。
这里还要记住一个进一步的复杂因素,那就是通过所谓的 Skolemization 过程,一个形如 ∀x∈X ∃y∈Y P(x,y) 的全称量化命题可以转化为一个存在量化命题 ∃ f:X→Y ∀x∈X P(x,f(x))。(要得到等价性需要选择公理,但至少这是一个充分条件。)这不仅仅是逻辑上的小把戏,它往往相当准确地反映了我们思考某些问题的方式。例如,把 Gluskin 的例子理解为一个配方,用来对任意给定维数 n 构造(或至少证明存在)一对合适的赋范空间——换句话说,就是通过给出函数在每个 n 处的值来构造一个从 ℕ 到赋范空间对的函数——比把它理解为一个断言“每个正整数 n 都具有某个复杂性质”的命题要自然得多。
还有一个复杂因素:有些全称量化命题自然地从存在量化命题推出,甚至可能与它们等价。例如,定理“二维环面不同胚于二维球面”是一个存在量化命题(从环面到球面的每个映射都不是同胚),但证明它的自然方式是证明一个存在命题:存在一个不变量能够区分这两个空间。再举一个全称命题等价于存在命题的例子:考虑一个命题,说向量 x∈ℝ^n 不属于某个紧集 A 的凸包。断言“A 中元素的任何凸组合都不等于 x”等价于存在一个线性泛函 φ:ℝ^n→ℝ 和一个 λ∈ℝ,使得 φ(x)>λ 且对每个 a∈A 有 φ(a)≤λ。在这两种情形下,我们自然倾向于把结果视为通过一个存在命题证明的定理,也许是因为最终令我们感兴趣的是那个定理。但是用“什么令我们感兴趣”作为标准来判断什么算反例,似乎有点模糊;而且如果我们想令人信服地解释为什么 AI 应该擅长寻找反例,这个标准似乎很难使用。
一个更一般的反对意见是针对“存在命题本身特别适合 AI”这种想法的:需要确立存在命题几乎贯穿了所有数学研究,无论最终追求的头条结果是什么性质。例如,如果想用归纳法证明一个命题,我可能会寻找一个更强的命题作为更好的归纳假设。或者,如果想证明“所有具有性质 P 的 T 型对象也具有性质 Q”,我可能会寻找一个从 P 推出、并且可以用来证明 Q 的性质 R。这些更像是元数学中的存在问题,但两者的界限可能有些模糊;更重要的是,在试图证明一个命题 S 时,我们脑海中的主要问题往往不是“为什么 S 是真的?”而是“S 的证明可能是什么样的?”举个例子,我觉得自己相当理解为什么 Goldbach 猜想是真的——一个非常合理的素数概率模型蕴含了它,并且与计算数据高度吻合——但如果我真的认真尝试证明它,那种许多数学家已经持有大约一个世纪的理解,帮助是有限的。相反,我的主要任务将是寻找足够强大的证明技巧,使这些启发式想法变得严格。
### 例子与反例有什么区别?
从逻辑上讲,每个形如 ∃x P(x) 的命题都是全称量化命题 ∀x ¬P(x) 的一个反例。然而,我们并不会把所有的存在命题都称为反例。例如,如果我说:“满足 1≤p<∞ 的 ℓ_p 空间以及 c_0 都是可分的,但 ℓ_∞ 不可分”,我不会把断言的后半部分称为“所有 Banach 空间都可分”这一论断的反例。相反,我会把它作为非可分空间最基本的一个例子来呈现。这里的要点似乎是:当时并没有特别的理由认为所有 Banach 空间都应该是可分的,而且找到一个非可分空间的例子并不太难。
我认为这里第一点更重要:如果一个对象的存在推翻了一个我们有相当充分理由相信的命题,我们就更倾向于称其为反例。经常发生的情况是,在反复尝试证明一个命题未果之后,数学家们开始觉得这个命题并没有特别的理由为真,即使似乎很难提出一个反例。在这种情况下,如果最终找到了反例,它可能会失去一些“反”的感觉。我的印象是,非 sofic 群的构造就属于这一类。文献中已有若干关于如何构造这样一个群的提议,而且我不认为有很多(甚至有任何?)专家强烈相信所有群都是 sofic 的。因此,说“OpenAI 提出了非 sofic 群的第一个例子”比说“OpenAI 找到了 sofic 猜想的一个反例”要自然得多(尽管他们论文中那一节的标题就是“sofic 猜想的一个反例”)。
类似地,在我看来,多色 Ramsey 数的新下界更多是一个例子,而不是一个反例。我想有不少人相信这个界应该是指数的,所以对这些人来说它是一个反例;但另一些人
相似文章
关于LLM“数学证明”声明的问题(15分钟阅读)
本文批判了媒体对LLM局限性数学证明的夸大报道,特别指出关于自我提升的条件性结论如何经常被曲解为普遍不可能性。
OpenAI的最新研究表明,LLM能够解决数学领域的前沿问题(1分钟阅读)
OpenAI的研究表明,LLM能够解决九个开放数学问题,这些来自COLT、FOCS、交换代数和Erdős问题,采用包含GPT-5.5 Pro和Claude Opus 4.8的简单pipeline,并使用了Lean形式化验证。
@haider1: Yann LeCun 表示,LLMs 在语言本身就是推理基础的领域(如数学和代码)中最强…
Yann LeCun 指出,LLMs 在语言作为推理基础的领域(如数学和代码)中最强,但它们并非有创造力的数学家、软件架构师或计算机科学家。
选择大语言模型擅长与不擅长的任务
该文章强调,大语言模型在处理模糊判断任务方面表现卓越,但在执行一致性计算时表现平平,因此主张在多智能体系统中实现任务专门化。
GTBench:一个基于课程体系的图论数学研究助手大语言模型评估基准
论文介绍了GTBench,这是一个基于课程体系的基准,用于评估大语言模型在图论中作为数学研究助手的能力,包含63个问题,分为三个难度级别。它评估了五个前沿模型,发现性能随难度增加而下降,其中GPT-5在基础问题上近乎完美,但在研究生级别的证明上仅达到82%。