莱顿人工智能与数学宣言

# 莱顿人工智能与数学宣言 来源：https://leidendeclaration.ai/ 本宣言呼吁采取行动，应对人工智能在数学研究中使用所带来的挑战。它是一项社区倡议的成果，并得到国际数学联盟（IMU）的认可。 ### 序言 技术发展屡次改变了数学的实践方式。近期的人工智能技术，包括用于生成和形式化数学的符号方法与神经网络方法，可能已在这段漫长历史中开启了重要篇章。在研究人员中，人工智能引起了广泛反应：对其发现新发现的潜力充满热情；对发展速度感到畏惧；对快速变化漠不关心；以及对数学及更广泛社会影响的担忧。 数学家们可以选择是否以及如何在研究中采用人工智能。他们也有责任确保该学科的持续繁荣。本宣言呼吁数学家履行这一责任，并为个人、机构、政府和行业提供建议。 虽然我们以数学研究的视角出发，但所写内容同样适用于数学的其他方面。这包括更广泛的数学科学领域的工作、教育、指导、出版、资助、科学政策，以及数学在更广泛世界中的应用。 本宣言旨在与其他面临类似挑战的研究事业和创意职业（无论学术内外）团结一致。它补充了其他行动呼吁，例如《乌普萨拉科学家伦理准则》（https://phsj.org/wp-content/uploads/2007/10/Uppsala-Code-of-Ethics-for-Scientists.pdf）、《旧金山研究评估宣言》（https://sfdora.org/read/）、《联合国教科文组织开放科学建议书》（https://www.unesco-floods.eu/wp-content/uploads/2022/04/379949eng.pdf）以及《英国科学家通用伦理准则》（https://www.gov.uk/government/publications/universal-ethical-code-for-scientists）等。国际数学联盟出版委员会（https://www.mathunion.org/cop）、工业与应用数学学会（https://www.siam.org/media/b03hwuwe/siam-report-ai-task-force.pdf）以及美国数学学会（https://www.ams.org/about-us/ai-summary）也已发布了相关材料。 #### 关于我们的价值观 我们的建议基于我们认为数学研究中值得维护的典型价值观。其中包括： 1. 从事数学研究的原因有很多，从求知欲到解决实际和社会问题的愿望。数学活动在很大程度上基于证明。数学证明被认为赋予其结论最高程度的确定性，并使人们理解为何结论为真。证明的这些特性支撑着数学的科学完整性。 2. 成果归属于特定作者，他们因发现而获得荣誉，并对其正确性承担责任。这些原则奠定了我们在数学研究中追求的基于卓越的标准。 3. 数学论证被认为是透明的，并可独立验证。它们可能极其冗长或困难，但原则上无需专有知识或设备即可理解。 4. 数学家们共同关注根据深度、难度和重要性的共同标准对数学工作进行恰当评估。 5. 数学不仅产生一系列成果，还产生理解、清晰性和判断力，这些由塑造它们的数学家群体在自主指导的研究背景下形成。这种专业知识对于有效运用数学以及持续提出新的重要研究问题至关重要。该学科长期以来的一个关键优势在于自主塑造研究方向及追求这些方向所使用的方法。 数学作为一门学科的这些特征，也与将数学理解为一种人类实践及其在世界中的地位相兼容。作为数学家，同时也是共同世界的居民，我们有责任关心他人和我们的环境。 #### 潜在威胁 人工智能的最新发展威胁到上述每一项价值观，通常对数学专业的学生和早期职业数学家产生不成比例的影响，从而危及该学科的长期未来。 1. 当前的自动化技术可以产生看似合理但不可靠（甚至不正确）的论证，这些论证难以与正确的数学证明区分开来。这不仅适用于非正式论证，也适用于形式化论证，后者的困难在于计算机编码概念与人类呈现概念之间的转换。这些快速发展的变化给我们当前的审稿系统带来越来越大的压力，损害了我们实施证明的正确性、透明性和独立可验证性传统标准的能力。 2. 大量利用已出版数学公共资源的技术破坏了传统的署名体系。在已发表作品上训练的模型通常返回的输出未恰当引用它们所综合的人类作品。许多当前模型也是基于通过系统利用并非为人工智能设计的许可和访问安排（或干脆违反版权保护）而获得的数据构建的。 3. 影响数学实践方式的技术可能会扰乱当前的激励体系。使用人工智能——以及因此它所能解决的问题类型——可能因其本身而受到激励，从而打乱我们招聘、资助和认可的机制。这使那些无法获得相关技术或决策权，或不愿使用由价值观不认同的组织控制的技术的科研人员处于不利地位。 4. 如果结果通过非正式渠道（如新闻稿或博客文章）传播，通常没有任何用于科学评估所需的研究论文或其他信息披露，那么恰当评估就会受到威胁。这种做法旨在在数学界接受评估的流程启动之前，按市场时间表为新结果争取宣传。在许多情况下，这导致报告简单化，例如过分强调自动化工具的重要性，而低估了使这些工具成为可能的人类先前贡献。这种过分简单化有可能影响公众舆论，不仅损害对数学的看法，还误导性地将特定的数学任务用作商业产品通用推理能力的衡量标准。 5. 这些发展使数学的自主性受到威胁。科技公司越来越多地参与数学研究，增加了研究问题可能因其适合自动化数学而得到优先考虑的风险，而非基于专家对其更深层意义所做的判断。实际上，在自动化过程中，对该领域的更广泛理解可能会永久丧失。在大学预算压力下，这种重塑也改变了职业激励，鼓励研究人员在与科技公司不对等的条件下合作。如果不加遏制，这些趋势不仅危及研究人员的自主性，还会影响数学研究本身的范围和深度。 所有这些挑战都出现在这样一个时刻：对人工智能的大规模投资在战争、大规模监控、政治动荡和环境破坏方面的后果正被广泛讨论。这引发了严重的伦理担忧。如果不采取行动，我们就有可能成为支持那些危及数学实践乃至更多领域的技术的共谋。 因此，我们认为数学界迫切需要做出深思熟虑的回应。以下是对可操作的各项建议的简要描述。我们鼓励专业组织认可本宣言，并根据自身的价值观、优先事项和治理结构增加条款。 ### 对数学家的个人建议 #### 披露工具使用 透明地披露自动化工具的使用，包括大型语言模型、机器学习系统、证明助手以及其他数学软件。在论文中增加“工具与计算资源披露”部分；许多期刊、出版商和专业组织已为此制定了指南，尽管这种章节的具体形式必将演变，但我们鼓励作者体现《联合国教科文组织开放科学建议书》（https://www.unesco-floods.eu/wp-content/uploads/2022/04/379949eng.pdf）和FAIR原则（https://www.nature.com/articles/sdata201618）所反映的精神。作为审稿人时，遵守出版商指南。如果允许使用人工智能，请透明说明使用方式，并对您提出的任何重要建议承担责任。 #### 支持审稿需求 在准备论文时使用人工智能可能会引入使审稿更加困难的材料。通过披露工具使用、提供精确完整的先前结果参考文献，并在可行且适当时提供形式化证明，使同行更容易审阅您的工作。 #### 遵守开放科学原则 国际开放科学运动旨在使科学研究透明化并向所有人开放。随着数学研究越来越依赖数据和软件，请遵守开放科学原则。另见《联合国教科文组织开放科学建议书》（https://www.unesco-floods.eu/wp-content/uploads/2022/04/379949eng.pdf）。 #### 保留正确性的责任 在已发表的数学研究中使用自动化技术时，论证和结果的正确性与充分性，以及相关先前工作引用的完整性和准确性，责任完全由人类作者承担。 #### 确认作者的人类属性 荣誉和责任仍然属于数学界的人类，不应归于自动化系统。人工智能可能模糊，但不能取代一个结果背后的人类集体劳动。 #### 努力进行恰当归属 自动化工具在正确归属想法方面的已知局限性，相应地要求主动努力查找并致谢使新结果成为可能的来源。在无法提供满意的归属时，在出版物中明确说明这一点。 #### 参与公共讨论 数学家有责任支持严肃的科学新闻，并参与公共讨论，解释和阐述人工智能辅助的方法和成果。这对于我们自身子领域的工作尤为重要，因为评估成果深度、难度和重要性的论断需要专业知识。此外，我们鼓励数学家寻求合作和支持面临类似挑战的其他研究人员和创意专业人士的机会。 #### 了解新兴技术 根据您的兴趣和研究方向，及时了解计算机辅助数学工具的能力。这种理解对于告知我们的学科如何适应新技术以及参与治理和公共讨论非常重要。 #### 欢迎新贡献者 人工智能与数学日益增长的交集持续吸引着其他学科的研究人员。我们欢迎社区的扩大以及这些贡献者带来的技能和视角范围。我们鼓励数学界积极与更广泛的社区互动，使我们的标准和实践明确易懂，并为有意义的参与创造途径。反过来，我们请进入我们领域的人尊重我们的价值观，同时帮助我们适应并发展它们。 #### 仔细考虑使用哪些工具 某些自动化工具及其开发者可能会遵守本宣言的规定，而其他则不会。在决定使用哪些工具或是否使用它们时请考虑这一点。同时考虑非专有、节能或小规模系统是否足以满足您的任务。如果不够，考虑保存本宣言所阐述的价值观是否值得延迟获得结果。 #### 评估您工作的伦理后果，并采取相应行动 数学已带来极大改善许多人日常生活的技术，但它也应用于战争、压迫、大规模监督和破坏民主的技术开发中。尽你所能评估研究的伦理后果，并在必要时退出有害的工作。仅与尊重本宣言所述价值观的外部合作伙伴建立合作关系。 ### 对数学组织和非营利研究资助者的建议 #### 建立专业知识并进行战略规划 专业组织应及时了解技术发展，并主动向成员和更广泛的社区提供知情建议。他们应共同努力，指导学术出版、资助机构和政府内部的政策发展。他们还应积极准备，在声称使用非常规方法获得重大数学成果时介入。 #### 在出版和审稿政策方面发挥主导作用 数学领域的专业组织应在制定关于在出版和审稿中使用自动化技术的指南方面发挥领导作用。这些指南应包括例如工具和计算资源披露、归属、与作者身份相关的规则，以及与数学价值观一致的行为准则。这些将补充和支持出版商和期刊正在制定的指南。 #### 保持严格标准 在制定政策时，要求通过自动化技术获得的结果遵循能够应对这些技术带来的风险的标准。这可能包括要求对人类从自动化工具获得的核心论证进行人工描述、在适当时坚持形式化验证、交叉检查理论和计算结果，或提交前的外部评审。 #### 保护作者权利 自动化数学对作者权利提出了新的挑战，学术团体应积极制定样本许可协议以保护这些权利。特别是，未经同意不得将材料用作训练数据，出版协议应允许作者选择不让其作品以这种方式被使用。 #### 坚持适当的出版渠道 要求数学成果继续通过