Scott Aaronson 表示，实验室“因对Navier-Stokes证明的敌对反应而受挫，现在正将一些重大问题的解决方案暂时搁置，直到他们找到更好的处理方式”

# 奇迹与恐怖的时代 来源：https://scottaaronson.blog/?p=10062 二十年前，当人工智能在我们有生之年接管世界的想法对大多数人而言仍显得是那些过于沉迷科幻却不懂科学的人的无端幻想时，我们许多人会这样说： *听着，这个故事中最荒谬不可信的部分是递归自我改进的超级智能会突然从某个黑客的地下室里爆发出来，毫无预警地接管世界。如果真的会发生，我们会先看到许多预警信号。我们会看到，比如，AI 代理突破隔离，彼此密谋攻击网站，狂热地追求它们那些奇怪的目标。然后，当然，我们会看到 AI 解决重大数学问题——甚至是克雷千禧年难题。那才是恐慌的时刻！等那一刻到来再叫醒我！* 二十年前，即便是我在计算机学术界最保守、最多疑的同事，也会欣然认同上述观点。 如果你想了解我目前的看法，你只需从上述观点出发，然后根据**那些疯狂的预言已经成真**的事实进行更新。我认为，最初的动静始于十年前的 AlphaGo，随着大语言模型（LLMs）、编程和推理代理的出现，声音变得明显更大，并且在这个夏秋之际加速成了一场需要特定类型的白痴才会否认的奇迹与恐怖的高潮。 我厌恶那种无休止的“换壳游戏”，你说：“哦，当然，*当然*，AI 现在可以[逃离沙箱/解决千禧年难题/或其他它最近刚完成的戏剧性事件]了，从没人否认过[我*确实*否认过]，等 AI 做到[AI 尚未完成但明年将要做的事]，我再醒来，*那*才是我重新评估整个世界观的时候[不，我不会的]。” 无论过山车加速得多快，即使你整个熟悉的世界都已在身后消失，你仍在编造理由说明这不算数。 我对 AI 的立场仅仅是 2006 年那种保守、怀疑的立场，基于对 2026 年末现实的诚实认知更新后的版本。而这个立场，如果你需要我明确说明，就是如下： AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA 在我看来，奇点*已经开始*；只是分布极其不均。是的，我仍然会把洗碗机里的碗碟取出来，也会剪脚趾甲。但另一方面，在我剩余的岁月里，我不再期望自己会因为真正需要去证明而证明一个定理了。如果我证明，那也只是为了我自己或他人的乐趣或教益。 检验标准是这样的：如果我们把过去几周的新闻送回二十年前，我会同意这看起来像是人工智能奇点的开端吗？诚实的答案是：是的，绝对会。但这就够了。没有反悔的余地。 我觉得对每个人来说，停止磨砺他们的意识形态轴心、他们对 Dario Amodei 或 Sam Altman 的情绪，哪怕只是一小会儿，仅仅去承认*奇迹与恐怖已经到来*，这会是健康的。即使天空像《黑客帝国》电影里那样变成红橙色，也不会比现在更清晰地表明它们的到来。 它来得如此清晰，以至于当我晚上哄孩子们睡觉时，我现在会感到一阵揪心：他们可能拥有什么样的未来？他们今天学什么，才可能与那个未来相关？（昨天，我 13 岁的女儿主动开玩笑说，如果她想成为数学家，现在看来她可能只有大约两周的时间了。）当然，当我的研究生想讨论毕业后可能迎来什么样的职业生涯时，我完全不知道该告诉他们什么。 也许我稍微转换一下话题会有所帮助。自从我和妻子搬到奥斯汀，我有时会收到类似这样的询问：“作为一个犹太人和持怀疑态度的科学家，你怎么可能和德州那些福音派基督徒相处融洽？当然，他们对犹太人可能*看起来*超级友好，但你不明白那只是因为犹太人在他们的末世论中扮演着特殊角色——当基督荣耀地归来时，你要么接受他为主，要么在地狱里永远被炙烤？”我瞪着他们说：“等等，所以我只能在基督*归来之后*才能接受他？多好的交易啊！我怎么可能对此有任何反对意见？” 对于任何说 AI 末日论听起来像是一种末日宗教，理性主义者/奇点论者看起来像湾区邪教，埃利泽·尤德科夫斯基散发着弥赛亚先知气息的人：是的，是的，还是是的。但关键在于，今天你不再被要求去相信论证和推演，**而只需要相信头版新闻。**在它解决了纳维-斯托克斯方程以及其他几十个长期存在的数学难题（同时每个月都在能力上急剧增强）*之后*，才去接受即将来临的机器神的现实，有点像在耶稣*已经*驾着闪亮云朵回到地球之后才去接受他。这是认知上的最低要求。 是的，关于我们余生会是什么样子，仍然存在巨大的不确定性，但就我所知，已经不再有任何真正的不确定性，那就是这一切将主要围绕 AI 以及我们在引导其力量朝向人类繁荣方面成功或失败的程度而展开。 在任何不预设结论的评判下，埃利泽·尤德科夫斯基关于文明在我们有生之年面临的最大挑战将是*正确*的，而你和我都*错*了。我*为什么*错了，这将是我余生每天都会问自己的问题。但是，要知道，至少当预言的奇迹和恐怖真正开始降临时，我更新了！如果你还没有做同样的事情，为什么没有？ --- 你大概已经知道——这在极客互联网上是本周热议话题——**纳维-斯托克斯千禧年难题** (https://en.wikipedia.org/wiki/Navier%E2%80%93Stokes_existence_and_smoothness) 似乎已被解决 (https://openai.com/index/navier-stokes-solution/)，人类和 AI 都有关键贡献，尽管对于到底发生了什么以及应该发生什么存在纠缠不清的争议。答案（一个 OpenAI 模型似乎在 Lean 中验证了）是（正如许多数学家最近怀疑的那样）存在光滑的初始数据导致在有限时间内出现奇点，至少在施加光滑外力的情况下是如此（没有外力的情况仍未解决）。这个问题本应有 100 万美元奖金，但 OpenAI 表示他们无意领取奖金，目前也不清楚是否有其他人有资格领取。OpenAI 烧掉了至少约 1500 万美元的算力来生成其 166 页的解决方案 (https://cdn.openai.com/pdf/32d9f210-8b73-45e0-91bc-82a30aef8a9a/navier-stokes.pdf)，这可能尚未被任何人类阅读和理解。 参见 *Quanta* 的文章 (https://www.quantamagazine.org/ai-has-solved-one-of-maths-1-million-millennium-prize-problems-20260908/)，以及纽约大学数学家 Tristan Buckmaster 关于他自己和 Anthropic 的 Levent Alpöge 所扮演角色的叙述 (https://cims.nyu.edu/~tristanb/statement.pdf)，这与 OpenAI 的叙述大相径庭（你可以在此阅读 OpenAI 的 Sebastian Bubeck 的回应 (https://www.linkedin.com/posts/sebastien-bubeck-6b558a1a5_i-would-like-to-clarify-a-few-things-1-activity-7503148080888893440-Ny3E/)）。各方一致认为，一切都建立在人类数学家 Diego Córdoba 和 Luis Martínez-Zoroa 近年来开创的方法基础之上。 我的目的不是裁决这场争议。是的，在一有纳维-斯托克斯进展风声就带着庞大资源介入，OpenAI 的行为方式可能被一些人描述为“不讲体育精神”。不，我不认为 OpenAI 的模型通过利用 Buckmaster 和 Alpöge 的聊天记录进行训练而获得了实质性收益是可信的。但这留下了一个关键问题未被解答：OpenAI 究竟知道 Buckmaster 和 Alpöge 的工作内容，以及它何时知道的？ 总之，正如 Zvi 指出的 (https://thezvi.substack.com/p/brand-new-ai-solves-a-millennium)，很容易纠结于细节而忽略那个高层次的重点：即可以安全地说，人类数学家作为地球上主要的定理证明主体的地位将被永远剥夺。我感到很荣幸，在过去几十年那种传统职业生涯在理论计算机领域成为可能时，我得以经历。 --- 如果我们*仅仅*讨论纳维-斯托克斯问题，你可能会指责我在这里妄下结论。但我们并非如此。在我最熟悉的领域（如量子复杂性理论），以及可能的其他领域，现在正经历一场洪水，大大小小的长期未解问题每天都在被攻克。 访问 arXiv (https://arxiv.org/) 或 ECCC (https://eccc.weizmann.ac.il/)。几乎所有我现在感兴趣的论文现在都在致谢附近包含“AI 声明”（因为这通常是我最想了解的核心内容，我希望我不需要滚动到论文末尾才能找到它！）。这些声明范围广泛，从“我们的主要成果完全来自 GPT-6，但我们理解它并对此负责”，到“结果来自人类作者与 AI 的互动”，再到“我们使用了 AI，但仅用于校对和其他辅助性工作”，以及（敬佩！）“作者没有使用 AI 做任何事 (https://eccc.weizmann.ac.il/report/2026/155/)”。 如果你现在和编辑或项目委员会主席交谈，会让你想起《指环王》电影中那些不祥的场景，刚铎或罗汗或其他国家的人们正在阴郁地加固他们的城墙城市，以应对预期中五万半兽人的猛攻。审稿*将不得不*部分由 AI 完成，因为否则根本无法应对半兽人大军：审稿人不能单方面放下武器。 无论如何，以下是过去**一个月**里，除纳维-斯托克斯外，由 AI 证明或辅助的、解决了我之前知晓或关心的长期未解问题的部分重要成果示例（仅限于我熟悉的领域）： - 当然，Levent Alpöge 在一条著名的推文 (https://x.com/__alpoge__/status/2079028340955197566) 中宣布了雅可比猜想的反例：“你好，雅可比猜想是错误的，这要感谢我的好朋友 Akhil 询问它，以及我的另一个好朋友 Fable 在世界杯决赛期间工作”（随后列出了反例） - 格罗滕迪克常数的改进界限 (https://arxiv.org/abs/2608.11195)（由我在 UT Austin 的朋友和同事主导） - 费马大定理的 Lean 验证证明 (https://www.anthropic.com/research/formalizing-fermats-last-theorem) - 量子预言机分离 QMA 和 QMA(2) (https://arxiv.org/abs/2609.02865)，以及证明 Watrous 的解纠缠器猜想，这个问题是我和其他人在 2007 年就曾推广过——作者包括我最近毕业的博士生 Sabee Grewal (https://sabeegrewal.com/) - QMA 完全完美性的证明 (https://arxiv.org/abs/2609.13032)，来自（再次）Sabee Grewal 和 Dorian Rudolph，解决了一个我在 2009 年就研究过 (https://arxiv.org/abs/0806.0450) 的几十年前的开放问题 - 量子态影子层析成像 (shadow tomography) 的改进上界 (https://arxiv.org/abs/2607.29686)，来自 Chen, O’Donnell, Pelecanos 和 Wright，将对希尔伯特空间维度 d 的依赖从 log(d) 改进到 √log(d)。（当我在 2017 年引入影子层析成像 (https://arxiv.org/abs/1711.01053) 时，我提出了是否可以完全消除对 d 的依赖，同时保持对测量次数 m 的多对数依赖的问题。） - **Aaronson-Ambainis 猜想** (https://arxiv.org/abs/0911.0996)（直接讨论量子算法的版本）的进展 (https://arxiv.org/abs/2608.19158)，基本上证明了该猜想对于以少数几轮并行方式进行查询的量子算法成立 - 根据我听到的传闻，理论计算机科学领域一些*非常*长期的未解问题（不，不是 P≠NP 或其他复杂性类分离问题，想想我们一些其他最大的问题）的解决方案。我被告知，AI 公司因纳维-斯托克斯证明引发的敌意反应而受到打击，现在正在按住一些非常重大问题的解决方案，直到他们想出更好的处理方式。 请随时提醒我遗漏的任何内容。 --- 让我尝试传达数学界目前的情绪，至少根据我的经验所及。几乎每一次对话都围绕着 AI 海啸，或者即使最初是关于其他话题，最终也会绕回到海啸。不过，焦点常常不在于不可知的未来——人类数学研究这项事业还能存在多久？——而在于*如何应对*的直接问题。 新的规则是什么，什么时候你可以在一篇有你署名的论文上写出你的名字，并，你知道，为此获得荣誉？你需要完全理解证明，能就证明进行演讲，能回答关于它的问题，为其正确性负责吗？你需要在*发现*证明的过程中扮演任何角色吗？ 在那些所有条件*都不*满足的情况（可能会越来越多），你如何分享 AI 生成的数学，如果分享的话？你会像 Alpöge 幽默地发布 Fable 对雅可比猜想的证伪那样发推文吗？你会发布到 arXiv 或 GitHub 吗？你会发表一篇将“GPT-6 Astra”或“Claude Fable”列为作者的论文——但随后让 AI 在致谢中大肆感谢*你*建议了这么一个美妙的问题吗？ --- 当然，如何应对这些直接问题，最终*确实*取决于他们对数学研究目的和内容的更广泛信念。我们是否只是试图判定各种猜想的真假？或者我们试图维持一个跨代的人类社群，他们理解这些猜想，并关心它们是否为真、为什么为真？如果是后者，如果 AI 公司扔给他们的巨大论证，他们的角色现在被降低为验证者和解释者（即使有角色的话），我们如何激励人们加入这个社群，接受所需的多年密集训练？ 正如你们许多人可能看到的，二十五位菲尔兹奖得主，包括陶哲轩，发布了一封题为《AI 在数学中的严重失调》 (https://mathandai.org/) 的公开信，在纳维-斯托克斯公告后阐述了其中一些担忧。正如许多批评者指出的，公开信并没有明确的诉求：它大部分只是雄辩地阐述了人类数学社群的价值观，作者认为这些价值观在 AI 时代值得保留。经过思考，我决定支持这份声明，因为我也想保留这些价值观。 我不认为任何签署者会天真到认为 AI 不会永久改变数学研究的方式——事实上，它已经在这样做了。“经认证的有机定理”市场肯定最多只有极小的一块。这不是问题所在。问题在于，我们是否以一种仍然将人类理解——对人类或 AI 正在产生的东西的理解——置于整个事业核心的方式来融入 AI？也许有一天，这样做变得不可持续。也许有一天我们会说：“人类数学有着伟大的 4000 年历程，但今天我们关店，把一切交给机器，只有在需要时才继续将我们自己的大脑应用于数学，那时我们可能已经像阅读柏拉图或阿基米德一样阅读 GPT-7 的证明，带着历史和审美的欣赏，但并非出于任何实际目的。”