AI正在打破我们对专家技能的代理指标

# AI 正在瓦解我们的专业能力评判标准 来源：https://www.seangoedecke.com/ai-is-breaking-our-proxies-for-expertise/ 数学家群体大体上并不反AI。相比于艺术家或作家¹，他们更倾向于在文化上接受将AI作为工具使用。然而，如今越来越多真正具有开创性的²、享有盛誉的数学难题已被AI攻克，情况可能正在发生变化。近五千名数学家（包括二十五位菲尔兹奖得主）签署了一份名为《AI在数学领域的严重失调》³的宣言。其核心论点大致如下： > 近几个月，AI在解决重大数学问题上的成功，即使在数学圈外也屡登头条。但解决问题只是实现首要目标——概念性理解和洞见——的工具和衡量标准。在AI世界中忘记这一点，可能会使工具反过来损害首要目标。事实上，以越来越快的速度批量生产“真/伪”命题，可能会摧毁孕育新思想的沃土，而非为其注入生机。 许多网友将此解读为任何一个被自动化领域的预料之中抱怨：翻译界经历过，艺术家和程序员也遭遇过，现在轮到数学家了。我认为这种看法过于轻率。理解数学家们所担忧的具体问题，有助于我们更好地理解AI对自身领域的影响，以及我们必须为此做些什么。 ### 解题与创新思想生成 数学分为两种类型。大多数人熟悉的是第一种，我们可以称之为“解题”：你拿到一个问题，然后试图找到解决方案。学生时代，这些问题通常很简单，比如简化某个代数表达式。成为研究者后，这些问题可能变得几乎不可能，比如证明费马大定理⁴。解题易于理解但难以实现，这让非数学家印象深刻，因而使其备受推崇。换句话说，解题是“可解释的”⁵。 第二种数学是“创新思想生成”：提出思考数学的新方式，从而产生新的术语或概念。要找这类例子，只需浏览一下arXiv数学论文⁶的列表。“Hardy空间”、“Schatten指数”、“Banach格”等等，都是某个人认为有趣的概念。这项工作对非数学家来说通常没什么吸引力，因为没人真正知道你提出的概念是否特别困难或具有深刻见解。例如，我刚刚提出了一个“Goedecke集”的概念，即所有各位数字之和为质数的自然数的集合。谁会在乎呢？我们想要的类别是数学中的“自然类”⁷——那些“在自然的关节处切割”的概念——而如果没有数年或数十年艰苦的工作，几乎不可能知道哪些概念是这样的。 这两种数学类型之间有何关系？我们可以说⁸，生成新思想才是数学真正的智力工作。解题在工具层面上很重要：它用于识别哪些思想能够回答长期存在的问题，从而判断哪些思想有价值。随着时间的推移，这些有价值的思想被更好地理解并变得更易使用，直到它们能够用于推动整体科学进步。最终，这些思想变得如此广为人知，以至于可以教给孩子们：“零”、“负数”、“虚数”和“微积分”都曾经是高深的数学概念，但现在是我们期望任何早慧的十二岁孩子都能掌握的东西。 解题还有另一个更实际的目的：让外界能够理解数学技能和进展。我无法欣赏陶哲轩的数学工作，但我认识菲尔兹奖。我对伽罗瓦表示没有很好的直观感觉，但我知道费马大定理的证明⁹。我们可以说，这类谜题一直是间接奖励熟练数学家进行更重要的思想创新工作（或明确证明¹⁰证明中使用的思想是有用的）的一种方式。 ### AI证明会削弱思想创新吗？ AI证明同时削弱了上述两种目的。现在，我可以明确阐述我认为数学家们如此不满的原因： 1. 谜题为数学家提供了一个高可解释性、高回报的目标 2. 为了解决这些谜题，通常需要生成新思想；谜题的解决证明了这些思想是有用的 3. 但现在AI可以通过“笨办法”解决许多这样的目标，而无需生成直观的新思想 4. 这削弱了解题支持思想创新的两种方式：AI公司获得了声望，却没有真正推动数学进步 5. 这对数学整体是不利的，因为解题只是数学真正目标的辅助手段 这有点类似于古德哈特定律¹¹。谜题曾是一种有用且无法博弈的数学进步衡量标准。但现在AI公司可以通过一种人类无法理解的方式¹²来“博弈”这个衡量标准，那些谜题的全部意义就消失了。 数学家们是对的吗？我认为第（3）点是否成立基本上尚不清楚：即前沿AI模型是否不生成也无法生成新的数学思想。我们仍处于AI解决我们最困难数学问题的极早期。谁知道它们未来会具备什么能力？我几乎完全不相信那种认为AI由于LLM工作方式的某种内在特性而无法做到这一点的观点。过去三年，我们看到人们声称LLM本质上无法做到X，结果几个月后LLM就在X上表现出色。 即使第（3）点成立，人类数学家仍有工作要做，即构建概念工具，使AI生成的证明能被人类理解：也就是说，为现有的“AI证明”配套生成一个“人类证明”。事实上，我预期AI证明的存在会对此有帮助。如果你知道命题X为真，就更容易弄明白为什么，因为你不会一直担心自己是在浪费时间。关于此，我推荐Gwern的博客《论真正的尝试》¹³，他在其中引用了一系列案例，说明仅仅被告知一个解决方案存在，就足以提供线索帮助人们找到它。 ### 数学、国际象棋与速通 当然，存在着声望和动机问题。“我是第一个解决Navier-Stokes方程的人”比“我找到了更好地向他人解释AI对Navier-Stokes方程解决方案的方法”是一个更有吸引力的目标，也更容易为此颁奖。数学家们会费心去研究已经被解决的问题吗？我认为会的。 要看原因，我们可以看看AI曾经进入并超越最优秀人类的其他领域，比如国际象棋或电子游戏速通。我的手机上就能运行一个国际象棋程序，它能在100局中击败芒努斯·卡尔森。计算机程序——称为“工具辅助速通”或“TAS”——能以比最快的人类快得多的速度完成任何电子游戏。但在这两个领域，人类仍然在纯人类联赛中竞争，最强的人类依然享有声望。数学最终可能会进入这种状态，“人类数学”和“AI数学”在很大程度上存在于不同的领域，而一个数学问题的首个“人类”解决方案仍然可能赢得赞誉。 事实上，在这两个领域，超人类水平的强大计算机玩家的存在已经提升了人类的游戏水平。尽管许多计算机国际象棋走法基本上人类无法理解，但顶尖的国际象棋棋手已经从计算机的“风格”中学习¹⁴。在速通领域，许多曾被认为是“仅限TAS”的操作现在也能由人类完成。AI数学可能同样会提升人类数学水平。 ### 软件工程 我不是数学家。我本科主修过数学，对实分析¹⁵和复分析¹⁶的证明有着美好的回忆，但这离我的专业还很远。然而，我正密切注视着强大AI对数学的影响，因为我自己的领域——软件工程——也正以同样的方式被AI智能体“殖民”。 软件工程领域的结构与数学不同。我们写代码是为了赚钱，而不是为了赢得声望或推进人类知识的前沿。但AI也在削弱软件工程领域传统的获得声望的途径。过去，你可以在GitHub上放一个有分量的项目——比如一个模拟器或一个玩具操作系统——人们就会知道你是个熟练的工程师。但现在，这样的项目一文不值，因为所有人都假设它们是靠“氛围编程”搞出来的。我们过去会讲工程师消失一周然后重写一个系统，或者一天产出数千行代码的故事。现在任何人通过订阅OpenAI就能做到这一点。 和数学一样，软件工程师将不得不重建我们文化中关于重视何种工作的观念。我们要么必须像国际象棋那样，将“AI工作”与“人类工作”隔离开，要么需要找到一些可解释的、不易被AI伪造的人类技能来加以认可。与此同时，许多在旧世界成功的人将会非常不满。 --- 如果你喜欢这篇文章，请考虑订阅¹⁷以通过邮件接收我的新文章更新，或者在Hacker News¹⁸上分享它。 这里预览一篇与本文有相同标签的相关文章： > 不要为AI智能体构建工具。许多¹⁹人²⁰认为²¹，我们应该停止为人类用户构建软件，转而为AI智能体构建。这似乎有些道理。例如，我的AI智能体现在使用Datadog的频率远超过我自己，纯粹是因为它们行动更快且可以并行运行。但我认为大多数尝试构建“为AI智能体的X”都会失败。原因有三点：继续阅读… (https://www.seangoedecke.com/dont-build-tools-for-ai-agents/) ---