LLMs作为符号回归中生理合理性的事后审核工具：一项临床医生评估的案例研究

# 大型语言模型作为符号回归中生理合理性事后审计员：一项临床医生评估的案例研究  
来源：https://arxiv.org/html/2609.11431  

Jorge López‑Varela  
https://orcid.org/0009-0005-6868-0019  
附属机构：西班牙马德里康普顿斯大学计算机体系结构系  
电子邮件：[email protected], [email protected], [email protected], [email protected]  

J. Ignacio Hidalgo  
https://orcid.org/0000-0002-3046-6368  
附属机构：西班牙马德里康普顿斯大学计算机体系构系  
电子邮件：[email protected], [email protected], [email protected], [email protected]  

附属机构：Bioinspired Intelligence Ltd.，西班牙波苏埃洛德阿拉尔孔  

Omar Costilla‑Reyes  
https://orcid.org/0000-0001-8331-7262  
附属机构：Equ Healthcare，美国马萨诸塞州沃特敦 02472  

Esther Maqueda, MD  
附属机构：西班牙托莱多大学医院内分泌与营养科  

Jesús Moreno‑Fernández, MD  
https://orcid.org/0000-0002-9703-1094  
附属机构：西班牙雷亚尔城综合医院内分泌与营养科  
地址：西班牙雷亚尔城，主教拉斐尔·托里哈街 13005  
附属机构：卡斯蒂利亚-拉曼恰卫生研究所 (IDISCAM)，西班牙托莱多  

Tomás González‑Vidal, MD  
附属机构：西班牙奥维耶多大学/阿斯图里亚斯中央大学医院内分泌与营养科  
附属机构：阿斯图里亚斯公共卫生研究所 (ISPA)，西班牙奥维耶多  
附属机构：阿斯图里亚斯肿瘤学研究所 (IUOPA)，地址：西班牙奥维耶多，罗马大道 33011  
电子邮件：[email protected]  

J. Manuel Velasco  
附属机构：西班牙马德里康普顿斯大学计算机体系结构系  
电子邮件：[email protected], [email protected], [email protected], [email protected]  

附属机构：Bioinspired Intelligence Ltd.，西班牙波苏埃洛德阿拉尔孔  

Oscar Garnica  
附属机构：西班牙马德里康普顿斯大学计算机体系结构系  
电子邮件：[email protected], [email protected], [email protected], [email protected]  
附属机构：Bioinspired Intelligence Ltd.，西班牙波苏埃洛德阿拉尔孔  

#### 摘要  
遗传编程及其变体（如文法进化）被广泛应用于符号回归，以从多变量数据中推导出数学表达式。除了预测精度，模型因其提供可解释性的潜力而受到重视，即给出连接输入变量与结果的显式方程。然而，实现可解释性和合理性仍然具有挑战性，因为演化出的模型可能过于复杂或与科学不一致。在本研究中，我们探讨了大型语言模型（LLM）是否能够帮助提高通过进化计算方法生成的符号回归模型的可解释性。基于我们之前使用基于文法的遗传编程估算体脂率的工作，我们研究了将LLM用作后处理工具，以分析和根据解释性与医学合理性对演化表达式进行排序。四个符号表达式由三个LLM在三次重复运行中进行分析，生成的解释和排序由三名临床医生组成的专家小组进行评估。在三个LLM中，比较性模型排序输出获得了临床医生比孤立的术语级解释更积极的评估。然而，LLM也产生了在生理和数学上存疑的解释，表明它们在专家监督下更适合进行比较性审计，而非自主验证。††本文是一篇投稿至期刊的论文的扩展版本。  

#### 关键词：  
文法进化 肥胖 符号回归  

## 1 引言  
遗传编程（GP）[13]是一种用于自动生成或演化计算机程序以执行特定任务的技术。其最广泛的应用之一是从监督学习数据集中获得符号回归（SR）[12]模型。随着其他人工智能（AI）技术的进步，它被认为是一种提供可解释性的技术。这一说法基于SR提供了使用问题变量的方程，因此我们可以为模型找到解释。还有两个与可解释性相关的属性：即可解释性和合理性。如果最终用户可以直接理解术语的含义，则称该模型是可解释的。然而，情况并非总是如此；SR模型的可解释性可能存在几个问题。一个模型（即一个方程）可能包含过多项且过于复杂，以至于可能很难解释[12]。在本文中，我们将在从模型中提取见解的背景下使用术语“可解释性”，我们承认文献中对其正式定义尚无共识，这可能取决于具体情境。但我们将同时使用大型语言模型（LLM）和医学专家来描述模型的合理性。另一方面，一个模型被认为是合理的，如果无论其是否可解释或可解释，它与科学证据一致或提出了物理或医学上合理的关系。例如，一个模型可能包含其单位与其所代表的函数或变量在物理上不一致的项。我们还可能获得展示某些项的模型，这些项虽然可解释，但揭示的关系尚未得到科学证据的验证。这最后一点有些不同，因为可能是科学证据不完整，或者所进行的推理受到文献中提及或证明内容的偏见影响。这种争议出现的一个领域是进化算法在医学和医疗保健中的应用。对于负责获得模型的人来说，如果他们不具备应用领域的透彻知识，在方程中发现这些证据可能并非易事。同样，请求模型的医疗专业人员可能不熟悉阅读和解释SR工具提供的数学方程。LLM是在大量文本上训练的深度学习模型，旨在理解、解释和生成自然语言。得益于基于Transformer的架构[36]，这些模型能够捕获长期依赖关系并生成连贯的文本，以及执行复杂的自然语言处理（NLP）任务，如摘要、问答、文本分类等。其主要贡献在于，它们可以基于其在大量数据上的先验训练（预训练），通过最少的额外信息适应特定领域或任务。LLM也正被用于分析和解释使用不同GP技术获得的模型，例如文献[3]中的工作，其中使用文法进化（GE，GP的一个版本）获得的低血糖检测表达式被直接分析。在其他领域，LLM也作为模型的后处理工具被应用于获得解释。我们假设LLM可以为SR模型提供与医学证据一致的可解释性。此外，我们建议使用LLM从一组具有相似质量的可能模型中选择最佳模型，这在运行进化算法后通常是常见情况。我们将尝试在文献[21]提出的问题上验证这一假设。本文是文献[21]工作的延续，其中使用三种由文法引导的进化计算方法：GE[27]、上下文无关文法遗传编程（CFG‑GP）[41]和动态结构文法进化（DSGE）[18]获得了多个用于估算体脂率（BFP）的模型。选择这些GP变体是因为它们能够有助于配置解空间并生成可能同时提高预测性能和模型透明度的符号表达式。文献[21]的工作将上述算法与QLattice框架进行了比较，表明文法进化方法能产生具有竞争力且可解释的结果，然而，最终模型的选择仅由解的最低均方误差值引导。在本文中，我们提出利用LLM从可解释性和合理性角度分析SR获得的解，然后据此选择最佳模型。我们对三种方法获得的解进行了分析，并比较了不同的替代方案。可解释性与可解释性（在可解释人工智能（XAI）等领域研究）的主要区别在于模型固有的可理解性。一个可解释的模型，例如用SR获得的数学表达式，无需输入‑输出对即可理解其行为，而XAI研究基于这些对的技术来解释不可解释模型所做的决策。然而，并非所有SR模型都同样可解释。此外，一组三名医生不仅研究解，还研究LLM所做的解释。结果表明，将LLM推理整合到SR工作流程中，可能为可解释且合理的符号模型提供一条新路径。  
本文其余部分的结构如下：第2节[链接]介绍关于使用LLM进行模型可解释性的先前工作。第3节[链接]解释本文使用的LLM和提示工程概念。第4节[链接]定义所使用的方法论。第5节[链接]、第6节[链接]和第7节[链接]分别展示了使用Gemma3、DeepSeek‑R1和GPT‑5.1 Thinking获得的结果。第8节[链接]总结全文。  

## 2 相关工作  
SR、EC（进化计算）和LLM的交叉领域发展迅速，从纯语法优化转向融合语义推理的混合方法。本节围绕三个基本轴组织现有文献：SR中复杂性和可解释性的管理、LLM作为进化循环中主动组件的整合，以及LLM在可解释人工智能（XAI）中新兴的作用。我们最后强调了本工作所解决的具体空白：使用LLM作为事后评估器来审计符号模型的语义和生物医学合理性，这一关键功能在很大程度上尚未被探索。GP应用于回归或自动化时最持久的挑战之一是“膨胀”现象，即语法树在不提供相应精度提升的情况下增长大小和复杂度，从而损害人类可解释性[14]。传统上，GP社区通过诸如简约压力和多目标优化等策略来解决此问题。后者通过NSGA‑II或SPEA2等算法实现，旨在近似一个同时优化精度和语法简单性的帕累托前沿[14, 9]。更近期的策略，如Age‑Fitness Pareto (AFP)，引入了额外的目标，如遗传物质的“年龄”，以保持多样性并防止收敛到复杂的局部最优解[30]。然而，语法复杂性并非可解释性的唯一代理指标。如文献[12]所述，非线性复杂度提供了模型可解释性的更稳健度量，并且像LLM‑Meta‑SR这样的现代方法表明，提示引导的约束可以在保持性能的同时控制膨胀[44]。然而，一个根本性的挑战仍然存在：即使算法方法有效地控制了语法复杂性，也无法保证所得方程在应用领域的语义合理性。一个数学上简单且准确的公式在生物学上可能仍然不合理，这是当前算法过滤器本身无法评估的维度[9]。LLM的整合最近改变了进化计算的格局，使其超越了作为解释器的角色，成为算法生命周期中的主动组件。这种整合体现在三种主要范式中。首先，LLM充当自适应进化算子。像EvoPrompt和LEO这样的系统利用LLM的上下文重写能力来提出语义知情的变异，替代或增强传统随机算子，并提高离散空间中的搜索效率[6, 2]。其次，LLM作为科学先验的提供者：认识到从零开始搜索的低效性，像LLM‑SR和CoEvo这样的框架利用LLM基于已知原理提出方程骨架，然后通过数值优化进行细化，从而在理论上丰富的领域大幅减少搜索空间[33, 7]。最复杂的方法涉及解和概念的共同进化，如LASR所示，其中LLM将成功模式抽象为高级文本概念（例如逻辑斯蒂增长），创建一个动态库反馈到进化搜索中，实现跨多个表示的开放式探索[38]。关键的是，虽然这些范式使用LLM来生成或增强方程搜索（从根本上优化精度或效率），但它们在将LLM作为事后评估器来审计所发现解的语义有效性方面表现出关键缺陷。这种语义验证的差距在XAI领域尤为突出。标准的与模型无关的方法，如LIME[25]和SHAP[19]，旨在通过近似局部行为或分配特征重要性来解释黑盒模型。然而，对于科学发现，这些工具存在认识论上的局限性；它们解释了哪些变量重要，但没有揭示关系的函数结构，而这对于验证医学等领域的生理合理性至关重要[26]。SR通过提供结构转