AutoPDE：通过显式表示的求解器策略实现可靠的偏微分方程智能求解

# AutoPDE：通过显式表示的求解策略实现可靠的偏微分方程智能求解
来源：https://arxiv.org/html/2606.10752
胡烁东¹,\* 张克耀¹,\* 王宏¹ 郝哲桢² 庄志伟¹ 刘子岩¹ 王嘉聪³ 刘耕源⁴ 金鑫⁵,†\dagger
¹中国科学技术大学 ²浙江大学 ³中国科学院大学 ⁴清华大学 ⁵宁波东方理工大学
\* 同等贡献
†\dagger 通讯作者 [email protected] [email protected]

###### 摘要

偏微分方程（PDE）的数值求解器是科学与工程领域的核心计算工具。构建可靠的PDE求解器不仅需要可执行的代码，还需要一套*数值求解策略*——即在离散化、稳定化、求解器配置和分辨率控制方面做出与PDE结构相匹配的决策。近年来，基于大语言模型（LLM）的编码智能体通过生成和调试求解器实现，已开始减轻编程负担。然而，它们通常直接从PDE问题过渡到求解器代码，使得求解策略隐式地埋藏在实现细节中。因此，当求解失败时，反馈被导向代码编辑而非底层策略，导致数值决策在生成代码前难以检查，且在失败时也难以利用数值证据进行修订。为解决这一局限，我们提出AutoPDE，一个将求解策略作为*显式表示*对象贯穿求解过程的代码智能体：该对象独立、可检查，在编写任何代码之前构建，并且每当求解失败时，可利用数值证据进行修订。AutoPDE通过三个阶段构建和维护此对象，所有阶段均从一个可重用的PDE求解技能库中抽取内容：*PDE分析*识别方程类型和代数结构；*数值方法选择*选择与分析结果匹配的数值方法，并据此确定离散化、稳定化和线性求解器；*自适应调优*运行低成本试算求解，在规定的精度和运行时间预算下校准分辨率和容差。我们在PDE Agent Bench上评估AutoPDE，实验结果表明，AutoPDE达到了54.5%的通过率，比最强基线提高了14.2个百分点。

## 1 引言

偏微分方程（PDE）的数值求解器是科学与工程领域的核心计算工具，在流体动力学、传热、弹性力学、波动传播及其他物理问题的模拟中扮演着核心角色。构建可靠的PDE求解器不仅仅是编写能无错误运行的可执行代码。一个更基本的挑战是设计与PDE结构相匹配的数值求解策略。该策略包括对离散化、稳定化、求解器配置和分辨率控制的选择。如果没有正确的策略，即便程序能运行，也可能在数学上不恰当或计算效率低下。

近年来，基于LLM的编码智能体已开始解决PDE求解器构建中的实现方面问题。通过与计算环境交互，这些智能体可以生成代码、执行代码、观察失败并迭代式编辑实现。通用系统如SWE-agent（Yang等人，2024 (https://arxiv.org/html/2606.10752#bib.bib29)）和OpenHands（Wang等人，2024 (https://arxiv.org/html/2606.10752#bib.bib28)）在软件工程基准测试中展示了这一范式的优势。PDE专用工作如CodePDE（Li等人，2025 (https://arxiv.org/html/2606.10752#bib.bib16)）进一步表明，LLM可以生成数值求解器程序，并通过调试、改进和测试时扩展来改进它们。

然而，这些系统仍然以程序为中心。求解策略仅通过实现细节隐式表示，没有单独的构件记录为何选择某种离散化、稳定化、求解器配置或分辨率。即使使用了执行结果或精度反馈，反馈也是应用于生成的程序，而非求解策略本身。这使得数值选择在代码生成前难以检查，且在求解失败时难以进行有针对性的修订。例如，对不定亥姆霍兹系统应用共轭梯度法（Saad，2003 (https://arxiv.org/html/2606.10752#bib.bib24)），或在对流主导问题中省略SUPG稳定化（Brooks和Hughes，1982 (https://arxiv.org/html/2606.10752#bib.bib7)），反映的是策略层面的不匹配，而不仅仅是编码错误。这类失败难以仅通过局部代码修补来修复，因为智能体必须重新审视底层的数值决策，而不仅仅是实现。

参考图注 图1：构建PDE求解器的三种方式。(a) 传统数值实践：人类专家应用数值分析知识推导出*显式*求解策略（离散化、稳定化、求解器配置），实现该策略，并在失败时*修订策略*而不仅仅是代码。(b) LLM代码/PDE智能体：通用代码智能体直接从PDE规范编写`solver.py`；求解策略隐式存在于生成的代码内部，因此当求解失败时，智能体只能*修补代码*，而无法触及底层的数值决策。(c) AutoPDE（我们的方法）：AutoPDE首先运行显式的PDE分析和数值方法选择阶段，将求解策略作为与`solver.py`并存的一等对象来维护，并在失败时利用数值证据*修订策略*，恢复了(a)风格的反馈循环，同时保持整个流程自动化。

为解决这些局限，我们提出AutoPDE，一个围绕*显式表示求解策略*构建的PDE求解智能体。AutoPDE并非直接编写代码，而是首先将求解策略构建为一个独立、可检查的对象，然后将其实现为可执行代码。该策略在整个求解过程中得以维护：数值决策保持可见、可检查，且每当求解失败时，可利用数值证据进行修订。图1 (https://arxiv.org/html/2606.10752#S1.F1) 将此设计与传统数值实践（人类专家手动使同一策略显式化）以及当前LLM代码智能体（策略隐式留在生成的代码内部）进行了对比：AutoPDE自动化的是前一个循环，而非后一个。AutoPDE通过三个阶段构建和维护此对象，所有阶段均从一个可重用的PDE求解技能库中抽取内容。*PDE分析*识别PDE类型、边界条件、主导机制和代数结构。*数值方法选择*选择与分析结果匹配的数值方法，并据此确定变分形式、离散化、稳定化、线性求解器和预条件器。*自适应调优*运行低成本试算求解以测量经验误差和壁钟时间，然后在规定的精度和运行时间约束下标定分辨率和求解器容差。

我们的贡献如下：

- • **策略优先的PDE智能体设计。** 我们提出AutoPDE，使求解策略成为一个显式、可审计的对象，而非将数值决策隐式地留在生成的代码中。此设计使得方法选择贯穿求解过程保持可见、可检查和可修订。
- • **用于求解策略构建的可重用技能。** 我们从可重用的PDE求解技能构建求解策略。PDE分析记录方程结构，而数值方法选择组合了用于变分形式、离散化、稳定化、求解器选择和预条件器配置的技能。
- • **基于数值证据的自适应调优。** 我们引入了一种试算求解调优机制，测量经验误差和壁钟时间，然后在规定的精度和运行时间约束下调整分辨率和求解器容差。在PDE Agent Bench上，AutoPDE达到了54.5%的总体通过率，并在两个不同的骨干模型（Claude Opus 4.6和GPT 5.1）上匹配此通过率，比最强基线提高了14.2个百分点。

## 2 相关工作

#### 数值模拟软件与有限元算法。

经典的PDE软件如FEniCS（Logg等人，2012 (https://arxiv.org/html/2606.10752#bib.bib18)；Alnæs等人，2015 (https://arxiv.org/html/2606.10752#bib.bib2)）、Firedrake（Rathgeber等人，2016 (https://arxiv.org/html/2606.10752#bib.bib20)）和deal.II（Bangerth等人，2007 (https://arxiv.org/html/2606.10752#bib.bib5)）将数值流程暴露为显式选择：离散化空间（Taylor和Hood，1973 (https://arxiv.org/html/2606.10752#bib.bib26)；Arnold等人，1984 (https://arxiv.org/html/2606.10752#bib.bib3)；Raviart和Thomas，2006 (https://arxiv.org/html/2606.10752#bib.bib21)）、非强制或对流主导状态下的稳定化（Brooks和Hughes，1982 (https://arxiv.org/html/2606.10752#bib.bib7)；Hughes等人，1989 (https://arxiv.org/html/2606.10752#bib.bib14)）、Krylov求解器和预条件器（Saad和Schultz，1986 (https://arxiv.org/html/2606.10752#bib.bib23)；Saad，2003 (https://arxiv.org/html/2606.10752#bib.bib24)；Ruge和Stüben，1987 (https://arxiv.org/html/2606.10752#bib.bib22)；Benzi等人，2005 (https://arxiv.org/html/2606.10752#bib.bib6)；Elman等人，2014 (https://arxiv.org/html/2606.10752#bib.bib10)）以及自适应性（Verfürth，2013 (https://arxiv.org/html/2606.10752#bib.bib27)；Ainsworth和Oden，1997 (https://arxiv.org/html/2606.10752#bib.bib1)；Babuška和Suri，1994 (https://arxiv.org/html/2606.10752#bib.bib4)）。AutoPDE将此人工策划的流程提升到智能体设置中，通过将求解策略构建为一个由可重用数值方法技能构成的显式、可修订的构件。

#### 智能体软件工程。

LLM编码智能体如SWE-agent（Yang等人，2024 (https://arxiv.org/html/2606.10752#bib.bib29)）、OpenHands（Wang等人，2024 (https://arxiv.org/html/2606.10752#bib.bib28)）和MetaGPT（Hong等人，2023 (https://arxiv.org/html/2606.10752#bib.bib12)）与计算环境交互、执行代码并使用反馈编辑实现，通常通过自我调试（Chen等人，2023 (https://arxiv.org/html/2606.10752#bib.bib8)）或自我完善（Madaan等人，2023 (https://arxiv.org/html/2606.10752#bib.bib19)）进行。这些系统是有效的通用软件智能体，但它们并未显式表示诸如公式化、离散化、稳定化以及求解器/预条件器选择等耦合的PDE决策。AutoPDE继承了交互式智能体范式，同时增加了PDE专用的策略表示和技能库。

#### LLM驱动的PDE求解器生成。

最近PDE专用系统将求解器构建表述为代码生成。CodePDE（Li等人，2025 (https://arxiv.org/html/2606.10752#bib.bib16)）研究了重复采样、自我调试、完善和测试时扩展；PDE-SHARP（Fazliani和Udell，2025 (https://arxiv.org/html/2606.10752#bib.bib11)）使用分阶段的数学分析和求解器综合；AutoNumerics（Du等人，2026 (https://arxiv.org/html/2606.10752#bib.bib9)）结合了多智能体设计、实现和基于残差的验证；PDE-Controller（Soroco等人，2025 (https://arxiv.org/html/2606.10752#bib.bib25)）将自然语言指令映射到形式化的PDE控制任务。这些工作展示了LLM驱动求解器生成的前景，但求解策略在很大程度上仍然是生成程序的隐含副产品。AutoPDE则将其维护为一个独立表示的对象，在代码生成之前构建，并在失败时利用数值证据进行修订。

## 3 预备知识

### 3.1 PDE与有限元方法

一个PDE将定义在域Ω\\Omega上的未知场uu与其导数、边界条件以及可能的初始条件关联起来。由于大多数PDE没有闭式解，它们必须离散化为有限维代数问题。我们关注有限元方法（FEM），它支撑了我们基准测试中的所有算例，并自然地暴露了我们研究的策略选择。

作为一个运行示例，考虑波数k\>0k\>0、源项ff和边界数据gg的亥姆霍兹问题：

−Δu−k2u=finΩ,u=gon∂Ω。\-\\Delta u\-k^\{2\}u\\;=\\;f\\quad\\text\{in \}\\Omega,\\qquad u\\;=\\;g\\quad\\text\{on \}\\partial\\Omega。(1)FEM将 (1) 转换为可执行代码需要四个步骤，总结于图2 (https://arxiv.org/html/2606.10752#S3.F2)。

(i) 变分形式。将 (1) 乘以测试函数vv并分部积分，得到弱形式：求u∈Vu\\in V，使得

a\(u,v\)=L\(v\)∀v∈V,a\(u,v\)=∫Ω\(∇u⋅∇v−k2uv\)dx,L\(v\)=∫Ωfvdx,a\(u,v\)\\;=\\;L\(v\)\\quad\\forall v\\in V,\\qquad a\(u,v\)=\\\!\\int\_\{\\Omega\}\\\!\\bigl\(\\nabla u\\\!\\cdot\\\!\\nabla v\-k^\{2\}u\\,v\\bigr\)\\mathrm\{d\}x,\\quad L\(v\)=\\\!\\int\_\{\\Omega\}\\\!f\\,v\\,\\mathrm\{d\}x,(2)其中VV是包含狄利克雷数据的索伯列夫空间。

(ii) 伽辽金离散化。无限维空间VV被一个有限维子空间Vh⊂VV\_\{h\}\\subset V所替代，该子空间由分段多项式基函数\{φi\}i=1n\\\{\\phi\_\{i\}\\\}\_\{i=1\}^\{n\}张成，例如在特征尺寸为hh的三角形网格上，使用次数为pp的连续拉格朗日单元（“LagrangePp\\mathrm\{Lagrange\}\\,P\_\{p\}”）。组合\(h,p\)\(h,p\)同时控制精度和计算成本。

(iii) 代数系统。将uh=∑jujφju\_\{h\}=\\sum\_\{j\}u\_\{j\}\\phi\_\{j\}代入 (2) 可将其简化为一个稀疏线性系统：

Kuh=b,Kij=a\(φj,φi\),bi=L\(φi\)。K\\mathbf\{u\}\_\{h\}\\;=\\;\\mathbf\{b\},\\qquad K\_\{ij\}=a\(\\phi\_\{j\},\\phi\_\{i\}\),\\qquad b\_\{i\}=L\(\\phi\_\{i\}\)。(3)KK的*代数结构*取决于PDE本身，而非超参数选择：对于拉普拉斯算子，KK是对称正定（SPD）的，但 (2) 中的−k2\-k^\{2\}反应项使得KK是*不定*的。

(iv) 代数求解器。线性系统由Krylov方法求解，其选择与代数结构耦合：CG需要SPD算子，对于亥姆霍兹问题等不定系统会发散（Saad，2003 (https://arxiv.org/html/2606.10752#bib.bib24)），因此改用与对称不定算子兼容的Krylov方法（例如MINRES，配合对称正定预条件器）。

这些选择是耦合的：弱形式设定了可实现的逼近精度，网格-次数组合\(h,p\)\(h,p\)同时控制误差（例如，对光滑解有‖u−uh‖L2≤Chp\+1\|u\|Hp\+1\\\|u\-u\_\{h\}\\\|\_\{L^\{2\}\}\\leq Ch^\{p\+1\}\|u\|\_\{H^\{p\+1\}\}）和系统规模，而线性求解器则将系统转化为壁钟时间或收敛失败。因此，一个糟糕的策略选择可能增大误差、超出时间预算，或即使代码本身在语法上正确，也会导致求解失败。智能体的任务是在第6.1节 (https://arxiv.org/html/2606.10752#S6.SS1) 所述逐算例精度和运行时间预算下，在`solver.py`中实现此流程。

数学构造

\# (i) 变分形式 Find u∈Vu\\in V: a\(u,v\)=L\(v\),∀v∈Va\(u,v\)=L\(v\),\\ \\forall v\\in V, a\(u,v\)=∫Ω\(∇u⋅∇v−k2uv\)dxa\(u,v\)=\\int\_\{\\Omega\}\(\\nabla u\\\!\\cdot\\\!\\nabla v\-k^\{2\}uv\)\\,\\mathrm\{d\}x, L\(v\)=∫Ωfvdx。L\(v\)=\\int\_\{\\Omega\}f\\,v\\,\\mathrm\{d\}x。\# (ii) 伽辽金空间 Vh=span\{φi\}⊂VV\_\{h\}=\\mathrm\{span\}\\\{\\phi\_\{i\}\\\}\\subset V, dimVh=n\\dim V\_\{h\}=n, 在大小为hh的网格上用LagrangePpP\_\{p\}。\# (iii