为机器辅助发现中的人类功劳辩护

人类求知欲与由此产生的发现的价值：你将一无所有，并感到快乐。这是我个人简介中一篇论文的TL;DR。发现始于一个人决定某个问题值得提出。它并非始于AI。AI是强大的研究工具，但它并不能取代人类发现的源头。人类选择问题、构建理论、定义约束、评判结果，并承担发表它们的责任。AI有助于加速这一过程，但不会消除它。AI不应仅仅因为它发现了一个证明就获得主要的发现功劳。形式化验证和数学正确性并不等同于基础性推导。如果AI基础设施的所有权变成对其所产生发现的所有权，同样的逻辑最终可能适用于科学、工程、医学、软件、艺术和商业。进步应当是人类主导、AI辅助的发现。功劳应归于提出问题和确定研究方向的研究者，归于AI的计算贡献，归于构建工具的工程师，归于使这一切成为可能的前人知识。强大的AI应当扩展人类的创造力，而不是悄悄地在人类自身发现的历史中取代人类。编辑说明：这篇论文是直接回应OpenAI最近的公告“数学与理论计算机科学的十项进展”(https://openai.com/index/ten-advances-in-mathematics/)。在那份公告中，OpenAI认为，“当一个系统生成数学论证时，将该工作归于人类会削弱机器的贡献和真正的人类智力工作。”本文并不否认AI可以给研究带来非凡贡献。相反，它审视的是：仅仅生成数学论证是否足以使AI成为发现者，还是说，提出原始问题、指导研究、评估结果并承担工作责任的人类，应继续处于发现归属的核心位置。