关于 OpenAI 发布的数学证明的一些细致观察

我不断看到人们在回应数学家们的反对时，将其框定为唯一的问题是人类没有获得应有的认可。好吧，也许确实有人是这种反应，但这并不是反对声浪背后的真正原因。真正的问题要深刻得多，而忽视它只会让那些更有用的模型离我们越来越远。我们确实需要改变现状，但要促成改变，人们首先需要看清问题所在。让我来解释： 数学远不止是写证明这么简单。为了便于讨论，姑且将数学实践分为四个领域：决定什么问题值得提出、提出一种机制、闭合估计（例如证明），以及让结果易于理解。 目前模型只擅长"闭合估计"（第三个领域），而我担心的是，这些公司会在转向第四个领域之前，先把精力集中在第一个或第二个领域上。听起来不错，但那会比现状更糟糕。我——以及我们一直在倾听的许多数学家——会主张，第四个领域实际上才是接下来最应该关注的。 这可能是一颗难以下咽的药丸。很多人似乎根本没有考虑过这一点。说真的，我甚至看到有人转发了 Terence Tao 对此事的回应，结果却是在重复我这里所反对的那些观点。我对此的反应是，Tao 真正想表达的意思，和我接下来这一段要写的完全一样。 如果不让证明具有可理解性，数学家们就不得不从证明中反向推导，来弄清楚这个结果究竟意味着什么。而这就是证明的全部价值所在！那种理解！此外，正如 Tao 在他的帖子中所说，"传统上由此类解决方案衍生出的所有有价值的后续活动"都会丢失（例如学术报告、研讨班、研讨会等）。原因要么是产生这些成果的人或机构自己也不理解，要么是他们根本无意投入额外的资源。 试着把自己放在这些数学家的位置上。想象你回到学校，正在做一道你就是理解不了的数学题。在撞了半天墙之后，你翻到教科书末尾去看答案。你得到了答案，但也就仅此而已。你对这道题的理解并没有得到帮助。你不会突然理解那些能帮助你未来解决类似问题、或推动你进入更高阶数学概念的基础数学思想。 如果之前说得还不够清楚的话，这个"答案"就类似于这里的 AI 证明。缺乏对这些证明真正含义的洞察。这才是真正的问题所在。 而在这里，赌注要高得多：这不仅仅关乎某一个人对某个数学主题的理解，而是关乎我们在人类仍能参与并理解这一过程的前提下，推动整个数学领域前进的能力。 我希望这些公司能找到为可理解的数学提供激励信号的方法。然而，如果模型完全自主运行（因为公司把资源优先投入了第一和第二领域），那在投资者和客户面前会显得更令人印象深刻——他们更关心的是能力的展示，而不是推进我们的数学理解。 别误会——这些证明确实展示了模型能力的巨大飞跃，这也是为什么会有那个话题标签。不过，这并不改变一个事实：它们并不能像人类证明那样推动我们的数学进步。如果这些公司不把重点放在第四个领域，它们就无法做到这一点。至少在 AI 统治我们的整个社会、而我们学会全盘接受 AI 所说的一切之前，是做不到的。 你觉得那是一个好的未来吗？ OpenAI 在上次发布数学证明后没有听从数学界的警告，这一事实表明这里存在一个令人担忧的趋势。