伦理的LLM辅助研究：负责委托、验证和认知价值的框架

# 基于伦理的LLM辅助研究：负责任的委托、验证与认识论价值框架  
来源：https://arxiv.org/html/2608.23644  
Kalin Stoyanov  
隶属单位：自动化系  
隶属单位：化学技术与冶金大学  
邮箱：kalin\.stoyanov@uctm\.edu  

###### 摘要  
大型语言模型（LLM）正逐渐成为科学研究的常规工具，协助完成文献综合、假设提出、编程和形式化推理。其使用引发了一个核心认识论问题：当科学推理的部分环节被委托给人工系统时，必须保持哪些条件由人类控制，才能使由此产生的知识主张保持认识论合法性并具备可问责的作者身份？本文构建了一个规范性与概念性分析框架，用于分析此类委托。科学推理被视为一种分布式过程，其中贡献的来源可能在人类与机器之间变化，但将其纳入科学记录的责任仍由人类承担。该框架区分了内容来源 \(O(g)\)、人类验证的完成度 \(V(g)\)、责任分配 \(R(g)\)、可问责的人类所有权 \(M(g)\) 以及认识论结果 \(E(g)\)。这些构念将主张的来源与其验证过程、验证的认识论结果以及处置该主张所附带的人类责任区分开来。核心论点是：LLM辅助研究的伦理边界主要取决于充分的验证与可问责的人类所有权，而非机器参与的程度本身。基于此，本文提出了“认识论审计”的概念：一种结构化的记录，涵盖委托、验证、来源和责任，旨在使AI辅助的推理透明且可审查。该框架提供了一套正式词汇，用以区分负责任的认知委托与科学认识论责任的转移或忽视。  
“当你开始将人视为物时，邪恶便由此开始。如今在AI时代，当你开始将物视作人时，邪恶便由此开始。”——改编自特里·普拉切特  

关键词：委托认知、分布式推理、认识论问责、道德作者身份、大型语言模型、人机协作、认识论审计、人工智能哲学  

## 1 引言  
大型语言模型（LLM）及相关AI系统正日益应用于科学工作中，以支持文献综合、论证构建、编程、数据分析和形式化推理。其不断扩展的角色延伸了科学实践中一个已确立的特征：认知工作通常分布在研究人员、协作者、仪器、软件和机构之间。LLM扩展了此类委托的规模与速度，因为单个研究者如今可将认知上具有重要性的中间任务分配给计算系统，并将其输出迭代地整合到研究过程中。近期进展表明，这一角色可能超越对受限研究任务的辅助。在数学领域，Terence Tao考虑了AI系统能够执行研究级别数学任务的情境，并将关注点从技术能力问题转向数学研究旨在服务的目标与价值观。Klowden与Tao同样将AI诠释为创造、组织和交流思想工具的历史发展的一部分，同时主张其整合应保持根本上的以人为中心。另一篇关于形式化数学AI的立场论文描述了系统从主要设计为问题求解器向能够参与开放式数学研究的智能体转变的潜在趋势，并将人机协作视为核心挑战。这些发展共同使得人机研究协作的认识论组织成为一个日益实质的问题，而非局限于将AI用作写作或计算辅助的讨论。  

这一发展创造了一个区别于技术性能问题的认识论问题。科学有用的输出可能部分或广泛源自人工系统，而由此产生的主张最终以人类作者身份进入科学记录。因此，相关问题是：在人机混合研究过程中，贡献的来源、其验证以及接纳的责任应如何关联。本文将LLM辅助研究视为一种“委托认知”形式。此视角与分布式认知理论及“扩展心智”论题相关，后者认为认知活动可超越个体生物代理的边界。本文框架采纳了更具体的关切：在此类扩展系统内产生的科学主张如何获得保证与可问责的作者身份。为此，需区分候选主张的“生产”与其作为科学贡献被“接纳”。在本文框架内，LLM输出被视为候选认识论贡献，而非独立具有保证的知识。该框架不要求关于人工系统能否具备认识论能动性的普遍形而上学主张，仅假设在当前科学作者实践及主要出版指南下，LLM不被视为能独立承担已发表主张责任的作者。因此，人类研究者仍负责决定机器生成的材料是否被理解、验证并纳入科学记录。这一区分变得尤为重要，因为机器参与程度与人类责任程度是独立的维度。一个主张可能主要由机器生成，却仍经过严格的人类验证；反之，一个主张可能完全源自人类研究者却未得到充分检查。因此，贡献的认识论与伦理地位无法仅从其来源推断。关键在于评估、接纳候选输出并将其分配给可问责的人类代理的结构。  

本文所探讨的核心问题可表述如下：  
> 在何种条件下，认知上重要的工作可委托给LLM，同时保持科学作者身份所要求的验证、问责与认识论合法性？  

为探讨此问题，本文围绕五个相关构念构建了概念性与形式化框架。**来源**函数 \(O(g)\) 描述语句 \(g\) 的人机贡献程度。**验证**函数 \(V(g)\) 记录是否已完成适合该语句的验证程序。**责任映射** \(R(g)\) 标识对其评估负责的人类代理。**道德所有权**函数 \(M(g)\) 记录负责任的人类是否明确支持并接受对该主张处置所赋予的认识论责任。最后，**认识论价值**函数 \(E(g)\) 描述框架内验证的认识论结果。这些构念支持一个核心命题：  
> 委托式科学推理的合法性主要取决于对由此产生的主张的可问责验证，而非人类或人工系统执行的认知工作比例。  

本文通过四项贡献展开此命题：首先，将LLM辅助研究建模为结构化的委托认知形式，并区分贡献的来源与其接纳所附带的责任；其次，引入连接来源、验证、责任、道德所有权与认识论价值的正式词汇；第三，将同行评审诠释为分布式验证的额外层次，同时保留作者对内部验证的首要责任；第四，提出“认识论审计”概念：一种结构化且可审查的记录，涵盖AI辅助科学工作中的委托、来源、验证与责任。  

该框架的目的在于规范性与分析性，它不提供科学质量的实证度量，也不声称下文引入的形式量已构成验证指标。其作用在于明确通常被忽视的认知工作委托给AI系统时存在的隐含关系。此区分在后续关于认识论价值的讨论中尤为重要，其中量化扩展被视为进一步发展的方向，而非既定的测量工具。  

论文剩余部分逐步展开论证。第2节将委托式推理置于验证、分布式认知、作者身份与审计的现有传统中讨论。第3节引入形式框架并探讨其对人机协作与同行评审的启示。第4节考虑向认识论价值量化度量的可能扩展。第5节将框架转化为负责任AI辅助作者身份的实践原则，第6节总结由此产生的验证与人类责任论述。  

## 2 背景：科学实践中的委托与验证  
科学推理长期依赖认知委托形式。研究者依赖协作者、数学符号、实验仪器、计算软件、数据库和形式化证明系统来执行产生科学主张的部分工作。当代人工智能通过允许将日益复杂的认知任务委托给计算系统，扩展了此模式。形式化证明助手如*Lean*和*Isabelle*与生成系统如*GPT*和*Gemini*在架构和认识论功能上差异显著，但二者均说明了一个更广泛的观点：科学推理可通过人工制品介导，而无需消除对由此产生的主张进行人类评估的必要性。  

生成与验证的区分在此过程中至关重要。数学实践的哲学论述反复强调，猜想生成与证明是不同的认识论活动。例如，拉卡托斯将数学知识描述为通过猜想、批评、反例与重构而非初即正确命题的连续序列发展而来。相关的数学实践分析同样强调调查与证明过程在稳定数学概念和结果中的作用。这些视角支持了适用于AI辅助研究的一般原则：主张的认识论地位取决于其被审视和证明的过程，而非仅取决于其最初生成的机制。  

当推理分布在人类与人工制品之间时，此区分变得尤为重要。Hutchins对分布式认知的论述表明，认知过程可由包含多人及物质或符号人工制品的协调系统实现。科学研究提供了此类分布的自然实例。实验仪器将物理状态转化为测量，软件执行手动难以完成的计算，协作者为共同研究目标贡献专业分析。最终的科学结果可能因此产生于一个认知劳动分布于异构组件的系统。  

LLM为此既定模式增添了一种独特的委托形式。与计算器或传统确定性程序不同，LLM可生成扩展的语言论证、候选解释、代码、总结和中间推论，其内部推导过程通常无法作为可检查的推理链供研究者审视。因此，相关的认识论困难不仅在于计算发生在研究者心智之外（科学仪器与软件早已如此），更在于LLM可能生成表面连贯的候选主张，其可靠性无法从其流畅性或生成过程的直接检查中推断。验证因此必须在最终主张、证据、引用、计算和推论关系层面进行。  

分布式认知也需与分布式责任区分。科学结果可能依赖于众多认知与技术组件，而接纳和发布该结果的责任仍归属于可识别的人类研究者。此区分已隐含在既定的作者身份规范中。例如，关于抄袭的讨论表明，学术诚信部分取决于对智力贡献的真实归属及对已发表作品来源信任的维护。本文将此关切扩展至AI辅助研究：来源标识贡献的生产方式，责任标识谁承担评估与支持它的义务。二者相关但不相同。  

当代出版指南将类似的区分付诸实践。国际医学期刊编辑委员会声明，AI辅助工具不应被列为作者，因为作者身份要求对准确性、原创性和完整性负责，并将AI辅助投稿材料的责任置于人类作者。世界医学编辑协会同样将人类问责性与生成式AI使用透明度视为核心要求。自然出版集团指南同样要求当AI实质性参与学术工作时，需由人类主导问责、验证与披露。这些政策是学科特定的例子而非普遍的哲学前提，但它们说明了本框架所定位责任的实践制度背景。  

此区分也阐明了为何机器辅助本身并不决定委托是否负责任。广泛的计算参与可能与仔细的人类验证并存，而完全人类推理可能仍缺乏充分检查。因此，相关规范性问题并非结果有多少由机器生成，而是从生成材料到被接纳的科学主张这一转变是否伴随着充分的验证与可识别的人类责任。  

第二个概念资源来自...