AI正在举办一场路边野餐

# AI 正在举行一场路边野餐 来源：https://metedata.substack.com/p/ai-is-throwing-a-roadside-picnic ***注意**：如果你一直打算找机会读《路边野餐》，本文可能包含剧透\\。* 我最近读完了苏联作家阿尔卡季·斯特鲁加茨基和鲍里斯·斯特鲁加茨基合著的哲学科幻小说《路边野餐》\\。外星人造访了地球上的某些地方；这些地方\\（“区域”\\）变得遍布人类无法理解的外星遗物，围绕寻找和转售这些遗物，还形成了一整套亚文化和黑市\\。例如，人们发现了永恒蓄电池\\（原文称为“so\\-so”或“«этак»”\\），并设法弄到它们，为汽车和住宅供电\\。然而，他们并不理解这些东西的工作原理\\。 书中一位科学家角色提出，可以把外星人的造访理解为某种“路边野餐”： > “那么，造访呢？你怎么看待这次造访？”“很乐意谈谈\\。想象一场野餐\\。”努南打了个寒战\\。“你说什么？”“野餐\\。想象一片森林、一条乡间小路、一片草地\\。一辆汽车驶离乡间小路，开进草地，一群年轻人从车里下来，带着瓶子、装食物的篮子、晶体管收音机和相机\\。他们生火、搭帐篷、放音乐\\。到了早晨，他们离开了\\。那些在漫漫长夜里惊恐地看着这一切的动物、鸟儿和昆虫，从藏身之处爬了出来\\。它们看到了什么？洒在草地上的汽油和机油\\。四处散落的旧火花塞和旧滤清器\\。被丢下的破布、烧坏的灯泡和一把活动扳手\\。池塘上的浮油\\。当然，还有那些常见的杂物——苹果核、糖纸、篝火烧焦的残骸、罐头盒、瓶子、某人的手帕、某人的折叠小刀、撕破的报纸、硬币，以及从另一片草地采来、已经枯萎的花\\。”“我明白了\\。一场路边野餐\\。”“正是如此\\。一场路边野餐，发生在宇宙中的某条路上\\。而你却问，他们还会不会回来\\。” 我认为，这个思想实验为理解 AI 正在如何影响科学提供了一个有趣且切题的视角，目前最显著的例子就是数学领域（https://www.theverge.com/ai-artificial-intelligence/1008726/openai-mathematics-solutions-chaos）\\。这些实验室正在解决千禧年大奖难题（https://www.bbc.com/news/articles/cy7zygy3rl2o），并向这个领域倾倒海量发现，数量多到它们不得不提供说明指南（https://github.com/openai/math），教人如何浏览这些堆积如山的成果\\。所有这些新知识涌来的速度远远超过了该领域处理它们的能力，而且其到来的方式与该领域的运作规范完全不相容，因此造成了混乱（https://www.theverge.com/ai-artificial-intelligence/1008726/openai-mathematics-solutions-chaos）\\。 陶哲轩关于 AI 数学的帖子（https://substackcdn.com/image/fetch/$s_!8zTQ!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F5861d424-bc5d-473d-943b-67b3dd3023f8_1213x1306.jpeg） 许多人对这些实验室产生知识以及与科学界互动的方式感到恼火，这是可以理解的\\。与此同时，大家一直在以各种方式追问：“AI 什么时候才能发现一些有用的东西？”好吧，我们已经走到这一步了\\（或者说，是 AI 走到这一步了？\\）\\。这些“发现大倾倒”只会越来越快，并且会席卷所有能够在闭环中快速验证成果的领域，而这正是 AI 极其擅长的事情\\。现在，我们必须想办法，以足够快的速度将这些新知识融入我们对世界的认知模型\\。 我昨天发帖（https://www.threads.com/@young.mete/post/DeS5eyhDvTZ）谈了这件事，然后，就像人们常做的那样，我和一个陌生人争论了起来（https://www.threads.com/share/FGIFU9VMV/）\\。这不是我喜欢的上网消遣方式，但这次争论确实包含了一个有趣观察的萌芽：今后，答案将越来越多地先于理解到来\\。这远非一种新现象（https://physicsworld.com/a/max-planck-the-reluctant-revolutionary/），但当发现涌现的速度急剧飙升时，它就会变成一种截然不同的局面\\。借用萨基布·拉赫曼（https://www.threads.com/@sakeeb.rahman）的话，他也在讨论中补充了一些见解（https://www.threads.com/share/JDLP-UNzb/）： > 未来的趋势：证明会变得廉价，而理解将成为瓶颈\\。 整个局面随之提出了一个问题：**科学发现的速度会不会快到让我们彻底失去理解它们的能力，使 AI 的输出变成前面所说的外星遗物？**这些遗物在到来之后，仅凭自身的存在就播下混乱的种子\\（在讨论（https://x.com/realBigBrainAI/status/2108513103734530130）最近一批发布的 AI 科学论文时，纽约大学数学教授特里斯坦·巴克马斯特说，整个研究计划都在一夜之间被抹去了\\）\\。换句话说，发现答案的速度，会不会与我们理解答案的速度脱节？ [](https://substackcdn.com/image/fetch/$s_!KiDH!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fba8a106b-e812-4465-b66e-ea0730532df6_1440x860.png) 我当然既不是科学史学家，也不是哲学家，因此并不适合推测这些问题的答案或其确切影响\\。不过，这仍然是审视 AI 持续影响科学的一个有趣视角\\。这也可能是为数不多的站得住脚的反加速主义论点之一：如果 AI 远远超出了我们理解其所作所为之意义的能力，那么附带损害可能会超过任何纯粹的科学价值\\。 颇为令人感慨的是，《路边野餐》探讨了这次外星造访背后人类的无足轻重，以及由此带来的情感创伤\\。你可以推测，最好的情况是外星人甚至没有注意到人类，最坏的情况则是它们根本不在乎\\。最大的区别在于，外星人的造访完全不受我们控制，而 AI 的发展却并非如此\\。仅仅考虑到前沿 AI 发展中的博弈动态，我就相当怀疑是否有可能采取任何协调行动\\。但实验室可以选择如何与科学界互动，确保理解的速度跟得上答案到来的速度，并确保它们的模型帮助科学家增强能力，而不是一路加速、抢在他们前面取得足以载入史册的发现\\。否则，我们可能会变成那些惊恐旁观的昆虫，看着我们所知的一切变成一场盛大外星野餐的场地\\。 #### 关于这篇帖子的讨论 ### 准备好阅读更多内容了吗？