AMTFV：用于LLM自我修正的智能体数学工具流验证

# AMTFV：用于大语言模型自纠正的智能体数学工具流验证

来源：https://arxiv.org/html/2607.29549

###### 摘要

大语言模型展现了强大的数学问题求解能力，然而可靠地验证其候选答案仍然具有挑战性。现有的代表性方法主要通过在自然语言层面进行反思来修订输出，或通过直接生成验证程序来辅助验证；前者可能无法可靠地支持精确计算，而后者则过早地将数学建模与底层实现耦合在一起。我们提出AMTFV（智能体数学工具流验证，Agentic Mathematical Tool-Flow Verification）。通过引入数学工具流（MTF）作为中断–执行–恢复接口，AMTFV将验证建模与具体执行解耦，并通过数学工具箱支持精确计算。具体而言，验证智能体首先构建验证工作流，将需要可靠执行的数学对象和计算意图编码为MTF请求，并将其发送给数学工具箱智能体。后者解析请求，生成可执行调用，并将其分派到后端进行精确计算。工具输出随后支持候选答案判定、答案修订和验证工作流修订。我们在来自DeepSeek、GPT和Gemini的七种模型配置下，对五个具有挑战性的数学推理数据集评估了AMTFV。实验结果表明，AMTFV总体上优于本研究中评估的代表性基线；在单模型配置下，其平均准确率比最强基线最高提升8.38.3个百分点，且在中等和高验证复杂度的样本上提升更大。

## 引言

大语言模型（LLMs）展现了强大的数学推理能力（Yang等人2024 (https://arxiv.org/html/2607.29549#bib.bib26)；Guo等人2025 (https://arxiv.org/html/2607.29549#bib.bib27)；Zhan等人2026 (https://arxiv.org/html/2607.29549#bib.bib28)）。然而，由于计算错误、符号推导缺陷、约束遗漏、枚举不完整或最优性判断错误，它们对复杂问题的答案可能仍然不可靠。先前的研究进一步表明，答案准确率的提升可能与推理链中的错误假设、规划失败和约束处理不足并存（Boye和Moell2025 (https://arxiv.org/html/2607.29549#bib.bib33)）。因此，一个可靠的数学推理系统不仅应当生成答案，还应当验证答案是否满足原始条件，并在检测到错误时对其进行修订（Cobbe等人2021 (https://arxiv.org/html/2607.29549#bib.bib14)；Song等人2025 (https://arxiv.org/html/2607.29549#bib.bib1)）。

现有的反向验证方法主要遵循两条路径。第一种通过自然语言自我反思、基于反馈的重写、检查清单或重复采样来修订输出（Pan等人2024 (https://arxiv.org/html/2607.29549#bib.bib15)；Kamoi等人2024 (https://arxiv.org/html/2607.29549#bib.bib16)；Madaan等人2023 (https://arxiv.org/html/2607.29549#bib.bib2)；Shinn等人2023 (https://arxiv.org/html/2607.29549#bib.bib3)；Cook等人2024 (https://arxiv.org/html/2607.29549#bib.bib4)；Wang等人2023 (https://arxiv.org/html/2607.29549#bib.bib5)），但在没有外部反馈的情况下，这种方法无法可靠地检测和纠正推理错误（Huang等人2024 (https://arxiv.org/html/2607.29549#bib.bib17)；Tye等人2024 (https://arxiv.org/html/2607.29549#bib.bib18)）。第二种通过代码执行来增强验证，例如Python程序（Gao等人2023 (https://arxiv.org/html/2607.29549#bib.bib22)；Chen等人2023 (https://arxiv.org/html/2607.29549#bib.bib23)；Gou等人2024 (https://arxiv.org/html/2607.29549#bib.bib24)；Song等人2025 (https://arxiv.org/html/2607.29549#bib.bib1)）。然而，我们认为这种方法可能过早地将数学建模和验证目标设计与底层实现耦合在一起。模型被要求在完全明确验证目标之前生成可执行程序，这迫使它们在处理循环边界和数值精度等细节的同时构建验证对象。这种过早的代码生成可能引入实现错误并使验证变得脆弱，产生两个后果。第一，故障难以在数学建模、约束抽象和程序边界处理之间进行定位。第二，精确计算可能无法完全委托给专用工具，使得可靠性依赖于模型的代码生成能力和临时程序的质量。因此，反向验证需要更清晰的结构，将数学验证建模与底层符号编译、程序执行和精确计算分离开来。

本文提出AMTFV¹¹¹代码将在https://github.com/TicusFFF/mathematical-self-correction/tree/main/S2-1 ̇AMTFV发布。（智能体数学工具流验证），一个用于数学反向验证和自纠正的自主框架。其核心是引入数学工具流（MTF）作为中间接口，在验证过程中将数学推理与具体执行分离。MTF遵循中断–执行–恢复的交互模式：在验证过程中，LLM发出局部计算请求后暂停，等待工具箱完成执行，然后基于返回的结果恢复推理。这样，LLM和计算工具各展所长：LLM专注于高层数学推理，仅以数学对象和计算意图来描述“需要计算什么”，并将其封装为结构化的MTF请求。数学工具箱智能体接收请求，根据计算任务选择合适的数学工具（例如，SymPy（Meurer等人2017 (https://arxiv.org/html/2607.29549#bib.bib25)）用于符号计算和方程求解，或Fraction用于精确有理数运算），生成可执行调用并将其委托给后端执行，之后将执行结果返回给验证和修订模块，用于候选答案判定、答案修订或验证工作流修订。这种将推理与执行解耦的设计，使LLM能够专注于数学建模而不会过早陷入程序实现，将形式化计算委托给更适合精确执行的工具后端，从而更充分地发挥LLM的数学推理能力，并有效缓解了自然语言反思缺乏可靠符号支持以及临时基于代码的验证中逻辑与实现紧密耦合所导致的计算不稳定性。此外，MTF保留了清晰的数学语义，使验证意图可检查、可修订、可复用。图1 (https://arxiv.org/html/2607.29549#Sx1.F1)通过一个闭式表达式验证和纠正的示例说明了这种区别：自然语言纠正缺乏符号执行，基于代码的验证将验证目标与其实现紧密耦合，而AMTFV首先显式构建验证目标，然后通过MTF调用数学工具，实现了推理与执行的清晰分离。

参见图注：图1：自然语言反思、直接代码验证和AMTFV在数学答案验证与纠正方面的比较。

我们在多样化的数学推理任务上评估了AMTFV。在主要的DeepSeek实验中，它比自然语言反思、基于反馈的重写、检查清单引导的纠正、重复前向推理采样和ProgCo获得了更高的平均最终准确率。补充的GPT和Gemini实验同样显示出比ProgCo等验证增强方法更高的平均准确率。与所评估的最强公开基线相比，AMTFV将平均准确率最高提升了8.38.3个百分点。进一步的分析表明，AMTFV实现了更可靠的候选答案验证和纠正，局部检查通过但最终答案错误的情况更少，并且在中等和高验证复杂度的样本上获得了更大的提升。

我们的贡献有三点：（1）我们引入了MTF，一种位于AMTFV核心的中断–执行–恢复接口，它将数学验证建模与底层实现细节解耦，避免了过早的代码生成，使LLM能够专注于高层数学推理；（2）我们引入了一个数学工具箱智能体，它将MTF请求转换为对后端合适数学工具的可执行调用，支持对复杂数学答案进行更准确、更全面的反向验证；（3）我们在多样化的数学推理数据集和多种主流基础模型配置上验证了AMTFV的有效性。

参见图注：图2：AMTFV框架概览。

## 相关工作

我们的工作涉及三条研究路线：LLM自纠正、工具增强的数学推理与智能体，以及验证驱动的推理与纠正。

**LLM自纠正。** 改进测试时输出的方法通常使用反馈、反思、检查或多路径采样。Self-Refine使用自生成的反馈迭代地改进输出；Reflexion使用语言反馈进行后续尝试；TICK使用LLM生成的检查清单来结构化评估和改进；Self-Consistency采样多条推理路径并选择一致的答案以获得稳定性（Madaan等人2023 (https://arxiv.org/html/2607.29549#bib.bib2)；Shinn等人2023 (https://arxiv.org/html/2607.29549#bib.bib3)；Cook等人2024 (https://arxiv.org/html/2607.29549#bib.bib4)；Wang等人2023 (https://arxiv.org/html/2607.29549#bib.bib5)）。最近的训练和推理方法也增强了自我验证和自纠正能力：S2R使用强化学习，而SPOC在单次推理过程中交替进行解决方案生成和验证，以触发自发性纠正（Ma等人2025 (https://arxiv.org/html/2607.29549#bib.bib29)；Zhao等人2025 (https://arxiv.org/html/2607.29549#bib.bib30)）。研究表明，在没有可靠外部反馈的情况下，模型无法一致地识别和纠正其推理错误，尤其是在复杂任务上，修订可能失败或错误难以定位（Pan等人2024 (https://arxiv.org/html/2607.29549#bib.bib15)；Kamoi等人2024 (https://arxiv.org/html/2607.29549#bib.bib16)；Huang等人2024 (https://arxiv.org/html/2607.29549#bib.bib17)；Tye等人2024 (https://arxiv.org/html/2607.29549#bib.bib18)）。

**工具增强的数学推理与智能体。** 工具增强推理将语言模型与外部程序、代码解释器或专用工具相结合，以缓解精确计算和符号执行中的不稳定性。PAL将数学问题转化为Python可执行程序；Program-of-Thoughts将数值计算与自然语言推理分离；ToRA将自然语言推理与工具调用相结合以进行数学问题求解（Gao等人2023 (https://arxiv.org/html/2607.29549#bib.bib22)；Chen等人2023 (https://arxiv.org/html/2607.29549#bib.bib23)；Gou等人2024 (https://arxiv.org/html/2607.29549#bib.bib24)）。AgentMath和R1-Code-Interpreter等工具增强的数学智能体同样使用代码解释器或工具调用来处理复杂数学任务（Luo等人2026 (https://arxiv.org/html/2607.29549#bib.bib31)；Liu等人2026b (https://arxiv.org/html/2607.29549#bib.bib32)）。在更广泛的智能体研究中，ReAct将推理与外部行动交错进行，Toolformer学习调用API，TRICE使用执行反馈进行工具学习，而AutoGen、MetaGPT和AgentVerse则使用多智能体对话、角色专业化或协作来处理复杂任务（Yao等人2023 (https://arxiv.org/html/2607.29549#bib.bib19)；Schick等人2023 (https://arxiv.org/html/2607.29549#bib.bib20)；Qiao等人2024 (https://arxiv.org/html/2607.29549#bib.bib21)；Wu等人2024 (https://arxiv.org/html/2607.29549#bib.bib34)；Hong等人2024 (https://arxiv.org/html/2607.29549#bib.bib35)；Chen等人2024 (https://arxiv.org/html/2607.29549#bib.bib36)）。

**验证驱动的推理与纠正。** 复杂数学推理既需要生成候选答案，也需要根据原始约束和目标对其进行检验。早期的基于验证器的工作训练验证器对候选解决方案进行评分或排序，以选择更可靠的答案（Cobbe等人2021 (https://arxiv.org/html/2607.29549#bib.bib14)）。最近的失败分析进一步表明，正确的最终答案并不一定反映可靠的推理：错误假设、规划失败、算术错误和约束处理不足仍然普遍存在（Boye和Moell2025 (https://arxiv.org/html/2607.29549#bib.bib33)）。与本文最相关的ProgCo使用程序驱动的验证来检验候选答案，并使用程序驱动的细化来提供具体的程序化反馈以进行自纠正（Song等人2025 (https://arxiv.org/html/2607.29549#bib.bib1)）。总体而言，先前的工作通过语言反馈、外部工具或程序驱动的验证来改进纠正。相比之下，AMTFV使用MTF作为面向数学工具箱的中间表示，将验证建模与执行解耦，并使用工具结果来指导智能体自纠正，而不仅仅是增加一个代码执行器。

## 方法

我们开发了AMTFV，一个以MTF为核心接口的智能体数学验证和纠正框架。给定一个问题qq和从初始响应中提取的初始候选答案a0a_{0}，系统对候选答案进行验证、提供反馈并加以修订。每当验证或修订需要可靠计算时，智能体通过标准化的MTF接口调用数学工具。如图2 (https://arxiv.org/html/2607.29549#Sx1.F2)所示，AMTFV有三个组成部分。左侧的验证和修订模块包含一个验证智能体、一个答案修订智能体和一个验证工作流修订智能体。中央的标准化MTF接口传输计算请求和工具结果。在右侧的数学工具调用与执行模块中，数学工具箱智能体Atool\mathcal{A}_{\mathrm{tool}}解析MTF请求、选择工具并生成可执行调用，由数学工具箱后端执行。结果返回左侧模块进行判定、反馈和修订。该架构将数学验证目标建模与底层工具执行解耦。我们首先描述验证和修订模块，然后描述数学工具调用与执行模块。

### 验证与修订模块

设Aver\mathcal{A}_{\mathrm{ver}}、Aans\mathcal{A}_{\mathrm{ans}}和Aflow\mathcal{A}_{\mathrm{flow}}分别表示验证智能体、答案修订智能体和验证工作流修订智能体。在第tt次迭代时，系统首先调用Aver\mathcal{A}_{\mathrm{ver}}：(Vt,rt,Rt)=Aver(q,yt,at;Vt−1′).(V_{t},r_{t},R_{t})=\mathcal{A}_{\mathrm{ver}}(q,y_{t},a_{t};V^{\prime}_{t-1}).(1) 其中yty_{t}是当前响应，ata_{t}是其提取的候选答案。可选的Vt−1′V^{\prime}_{t-1}是参考验证工作流；如果不可用，则Aver\mathcal{A}_{\mathrm{ver}}根据ata_{t}重建一个。