OpenAI希望咨询顶尖数学家以避免再次失误

# OpenAI希望向精英数学家咨询如何避免再次失误 来源：https://www.theverge.com/ai-artificial-intelligence/999167/openai-elite-mathematicians-panel 在将一系列惊人的数学成果转化为声誉危机之后（https://www.theverge.com/ai-artificial-intelligence/992953/openai-math-millennium-prize-navier-stokes），OpenAI正在咨询人类数学家，以帮助其找到一条不那么灾难性的前进道路。 周一，该公司宣布成立一个由数学家组成的新的独立专家小组，任务是为其及其他AI公司如何与数学研究和更广泛的数学界互动提供建议，包括如何呈现和发布新成果。该小组的突然出现让许多数学家感到意外。研究人员告诉*The Verge*，这个小组是良好的第一步，但许多人表示，他们对其实际职能、影响力大小以及OpenAI是否会真正听取其建议等方面仍存在基本疑问，同时担忧这样一个小型的顶尖研究者群体能否代表更广泛的数学界。 这个九人小组包含了被研究人员形容为该领域“名人”的成员，他们来自斯坦福大学、哈佛大学、牛津大学和剑桥大学等机构，其中拥有多位菲尔兹奖和麦克阿瑟“天才奖”得主。该小组将由位于新泽西州普林斯顿的高等研究院（IAS）托管，这是世界上最负盛名的数学研究中心之一，也是阿尔伯特·爱因斯坦、约翰·冯·诺依曼和J·罗伯特·奥本海默等人物曾经的思想家园。 “另一个基本事实是，我们的首要目标是尽可能好地代表数学界的利益。” OpenAI表示，这个名为“数学与人工智能咨询小组”（AGMAI）的组织将独立运作，可以自由提供该公司未曾要求的建议，公开评论其对数学的影响，并公开其建议，尽管并未提供具体细节。据称，该小组将获得OpenAI研究的早期访问权限以履行其职责。OpenAI表示，成员不会获得报酬，小组可以根据自身需要更换成员。“其价值取决于成员能否运用自己的判断力并挑战我们的观点，”该公司表示。“小组将就新兴成果的评审和传播提供建议：他们将帮助OpenAI评估这些成果的重要性，就如何协调其发布提供建议，并就数学研究的学术和专业标准提供建议。他们还将就我们的工具如何支持数学研究和学习提供建议。” 尽管反复强调独立性，但目前仍不清楚该小组实际能有多大影响力，也不清楚其成立的初衷。瑞士苏黎世联邦理工学院的研究员西蒙·马查多表示，整件事似乎“笼罩在神秘之中”，他质疑这九名成员是如何选出的。该小组的简陋网站（https://agmai.org/）称其“是在OpenAI接触部分成员关于成立外部顾问委员会事宜后组建的”，但在与公司讨论后，数学家们决定转而启动一个独立小组并邀请他人加入。目前尚不清楚最初哪些成员受到了OpenAI的接触，其余成员又是如何选出的。 咨询小组成员马丁·海勒周二在一篇博客文章（https://proofsandprompts.com/2026/09/22/why-i-agreed-to-join-agmai/）中详细阐述了小组的起源及其背后的思考，回应了他所说的围绕其成立的“大量错误信息”。“很明显，AI已经对数学研究产生了深远影响，并引发了关于思想正确归属、优先权、人类对思想的理解等众多问题，”他写道，并补充说，数学界采取“鸵鸟政策，简单地忽视AI实验室并原则上拒绝与之交谈”是毫无意义的。 虽然承认该小组的成立是响应OpenAI的提议，但海勒强调，并非所有成员都曾被该公司联系过，且最终成立的组织“独立于OpenAI及任何其他所谓的‘前沿’AI实验室”。除了“明显的保密要求”外，他表示成员们没有签署任何限制其公开言论的协议，并补充说他们没有获得任何经济报酬，依靠高等研究院提供技术支持。 “另一个基本事实是，我们的首要目标是尽可能好地代表数学界的利益，”海勒写道，他是伦敦帝国理工学院和洛桑联邦理工学院的数学教授。尽管指出该小组远非数学界的代表性样本，但他“绝对确定我们九个人都极其认真地对待此事，并怀有善意行事。” 无论成员是如何选出的，该小组目前由一群顶尖的学术数学家组成。其小规模引发了更多疑问：考虑到在数学前沿运作所需的专门技能和知识，该小组是否具备评估所有涌入成果所需的专业广度？ 即将成为赫瑞瓦特大学数学教授的弗朗西斯科·富尼耶-法西奥表示，自己对这个小组持相当“矛盾”的态度，他认为与数学家的更多接触“只会让事情变得更好”。但他质疑这个小组是否充分反映了其工作和生计正被OpenAI争夺数学荣誉（https://www.theverge.com/ai-artificial-intelligence/994255/openai-millennium-prize-problem-tristan-buckmaster-competition）的行动所颠覆的那个群体。“这感觉像象牙塔，”他告诉*The Verge*。 马查多同样质疑，该小组的成员是否完全理解或能够代表更广泛数学界（https://www.theverge.com/ai-artificial-intelligence/977273/the-ai-takeover-of-mathematics-has-begun）在AI方面的关切。“他们是了不起的数学家，但我不知道他们是否就是我希望在更政治性的问题上代表我的人，”他说。对于处于他们及类似精英位置的数学家，马查多表示，“我认为他们所面临的现实与大多数数学家目前面临的现实非常不同。” 该小组能否赢得数学家的信任，最终将决定其在遏制OpenAI近期公布成果时一系列失误所引发的影响方面能有多有效，更重要的是，能否为该公司计划公布的任何下一步消息减轻冲击。海勒在其博客中表示，成员们“若相信AI实验室不会试图以适合其公关机器的方式曲解我们的任何言论，那就太天真了，他们的公关机器是我们所能想象的任何事物都无法企及的”。 尽管如此，海勒认为，在OpenAI似乎正在做出努力之际拒绝接触是虚伪的，尤其是在许多人批评该公司行为和沟通不善之后。他说，小组尚未确定其打算提供的建议，但它正在回应一个明确的问题：“事实是，近几个月来AI公司产出了一些备受瞩目的数学成果，而这些成果的发布和传播远未达到可接受的数学实践标准，无论这个标准如何定义。” “我们目前面临的非常具体的挑战是，就如何协调发布大量重要的数学成果向OpenAI提供建议，据称这些成果是由其内部模型产出的。” 目前，海勒表示，小组正通过与同事交谈、公共反馈表（https://agmai.org/input/）以及在*Proofs and Prompts*（https://proofsandprompts.com/）上的讨论来收集意见，该博客已成为数学家们探讨AI对该领域影响的关键论坛。 但该小组最大的挑战可能还在后头。在宣布成立咨询小组时，OpenAI不经意间透露了其新的、尚未发布的模型——就是解决了纳维-斯托克斯千禧年大奖难题的同一个模型——现已“解决了数学大多数领域中100多个长期存在的开放问题”。此前该公司曾表示，正在逼近另一个千禧年大奖难题。在其网站上，该小组表示处理这一积压问题是其首要任务：“我们目前面临的非常具体的挑战是，就如何协调发布大量重要的数学成果向OpenAI提供建议，据称这些成果是由其内部模型产出的。” 在一定程度上，这种与数学家接触的新努力，是承认其尝试曾是一场巨大的公关灾难，该公司发现自己正面临抢占研究人员成果、未能承认其模型所依据的人类工作、甚至窃取使用其模型者成果等指控。这些争议让许多数学家怀疑该公司是否理解——甚至尊重——它贸然闯入的学科和社群。 在过去的几个月里，以及这么多关于数学家期望什么的文章发表之后，伦敦帝国理工学院的数学教授凯文·巴扎德想知道，为什么OpenAI觉得需要这样一个精英团体来了解社群想要什么。“问题不在于复杂定理的证明，而在于更好地理解我们的学科，”他说。“对我来说，似乎并不完全清楚你需要一个由聪明人组成的委员会来把这一点说清楚。” **关注本故事的主题和作者**，在您的个性化主页信息流中查看更多类似内容，并接收电子邮件更新。 - 罗伯特·哈特