SDAM:面向复杂Text-to-SQL的结构差异感知记忆演化

arXiv cs.CL 论文

摘要

本文提出SDAM,一种基于记忆的复杂Text-to-SQL框架,利用结构差异感知推理、矛盾感知反思和基于模式的记忆演化来改进SQL生成。实验在BIRD-dev和Spider-test基准上展示了适度的性能提升。

arXiv:2608.12338v1 公告类型:新 \n摘要:Text-to-SQL旨在将自然语言问题转换为可执行的SQL查询。虽然基于记忆的智能体系统改进了复杂SQL生成,但现有的记忆设计忽视了历史经验,并且存在结构分析薄弱、语义理解浅显以及模式对齐不佳的问题。为应对这些挑战,我们提出了SDAM。具体而言,SDAM通过结构差异感知推理树识别潜在错误,通过矛盾感知反思提取深层语义规则,并使用基于模式的记忆演化机制增强结构一致性,将记忆与数据库模式绑定。我们将SDAM集成到一个名为SDAM-SQL的Text-to-SQL框架中。实验表明,与主流Text-to-SQL方法相比,SDAM-SQL在BIRD-dev和Spider-test上分别提升了2.0和0.4个百分点,显示了SDAM-SQL的有效性。
查看原文
查看缓存全文

缓存时间: 2026/08/14 09:25

# SDAM:面向复杂Text-to-SQL的结构差异感知记忆演化

来源:https://arxiv.org/html/2608.12338
徐可岩,王子瑞,张轩亮,朱庆福,车万翔
哈尔滨工业大学
\{kyxu, dzrwang, xuanliangzhang, qfzhu, car\}@ir\.hit\.edu\.cn

###### 摘要

Text\-to\-SQL旨在将自然语言问题转换为可执行的SQL查询。虽然基于记忆的智能体系统提升了复杂SQL生成的能力,但现有的记忆设计忽视了历史经验,并且存在结构分析薄弱、语义理解浅层、以及模式对齐不佳等问题。为应对这些挑战,我们提出了SDAM。具体而言,SDAM通过结构差异感知推理树识别潜在错误,通过矛盾感知反思提取深层语义规则,并通过基于模式锚定的记忆演化机制将记忆与数据库模式绑定以增强结构一致性。我们将SDAM集成到一个名为SDAM\-SQL的Text\-to\-SQL框架中。实验表明,与主流Text\-to\-SQL方法相比,SDAM\-SQL在BIRD\-dev和Spider\-test上分别取得了2.0%和0.4%的提升,展现了SDAM\-SQL的有效性。

# SDAM:面向复杂Text-to-SQL的结构差异感知记忆演化

徐可岩,王子瑞,张轩亮,朱庆福,车万翔††感谢:通讯作者。哈尔滨工业大学
\{kyxu, dzrwang, xuanliangzhang, qfzhu, car\}@ir\.hit\.edu\.cn

## 1 引言

参见图注Figure 1:现有方法的局限性以及SDAM的动机。现有方法存在三个问题:\(i\) 结构分析薄弱,通过结构差异感知推理树解决(§4.1.1 (https://arxiv.org/html/2608.12338#S4.SS1.SSS1));\(ii\) 语义理解浅层,通过矛盾感知反思解决(§4.1.2 (https://arxiv.org/html/2608.12338#S4.SS1.SSS2));以及\(iii\) 模式对齐不佳,通过基于模式锚定的记忆演化机制解决(§4.1.3 (https://arxiv.org/html/2608.12338#S4.SS1.SSS3))。

Text\-to\-SQL旨在将自然语言问题转换为可执行的SQL查询Baek等\(2025 (https://arxiv.org/html/2608.12338#bib.bib2)\)。目前,基于智能体的框架已成为复杂SQL生成的主流范式Liu等\(2025 (https://arxiv.org/html/2608.12338#bib.bib1)\)。这些方法通过多阶段协作推理提升了Text\-to\-SQL的性能。例如,CHESS Talaei等\(2024 (https://arxiv.org/html/2608.12338#bib.bib5)\)采用多智能体协作进行SQL生成,而Alpha\-SQL Li等\(2025 (https://arxiv.org/html/2608.12338#bib.bib6)\)利用MCTS搜索最优推理路径。然而,大多数现有的Agent-for-SQL方法仍然依赖静态推理流程,缺乏对历史经验的持续有效利用,难以在复杂场景中进行自适应优化。为解决这一问题,应引入记忆机制来存储历史经验。近期通用记忆方法包括G\-Memory Zhang等\(2025a (https://arxiv.org/html/2608.12338#bib.bib24)\)的层次图记忆和ExpeL Zhao等\(2024 (https://arxiv.org/html/2608.12338#bib.bib25)\)的经验回放机制。

尽管现有方法已取得了可喜的进展,但其记忆设计仍难以满足Text\-to\-SQL中复杂推理的需求,主要体现在三个方面:\(i\) 结构分析薄弱:现有方法通常只记录线性推理过程,难以建模和分析多表连接、聚合操作等复杂SQL逻辑;\(ii\) 语义理解浅层:现有方法大多停留在表面语义分析层面,未能捕捉数据库字段的深层语义。例如,`active_user`不仅表示用户的状态,还隐含表明该用户的登录频率超过某一阈值(Figure1 (https://arxiv.org/html/2608.12338#S1.F1));\(iii\) 模式对齐不佳:现有记忆缺乏与数据库模式的显式对齐,可能导致SQL查询与数据库结构不一致。例如,当记忆记录“查询用户名时偏好使用`name`字段”时,模型可能错误地将`course.name`用作用户名字段,而正确字段应为`student.student_name`(Figure1 (https://arxiv.org/html/2608.12338#S1.F1))。

为解决上述问题,我们提出了结构差异感知记忆(Structure\-Difference\-Aware Memory,SDAM),实现了:\(i\) 结构分析薄弱问题:我们引入了结构差异感知推理树,生成多条推理路径并将其组织为推理树,以捕捉候选SQL查询之间的结构差异,从而提升对复杂SQL结构的准确建模。\(ii\) 语义理解浅层问题:我们提出了矛盾感知反思,分析推理过程中的逻辑矛盾、SQL与模式之间的不一致性,以及执行结果与问题语义之间的不匹配,从而从错误案例中提取深层语义规则。\(iii\) 模式对齐不佳问题:我们设计了基于模式锚定的记忆演化机制,将记忆显式绑定到数据库表和列,以减少字段混淆和结构错误。

基于SDAM,我们提出了SDAM\-SQL,一个面向Text\-to\-SQL的记忆演化框架。与现有主流Text\-to\-SQL方法相比,SDAM\-SQL取得了0.4%和2.0%的提升,展示了其有效性。我们的贡献总结如下:

- •我们提出了SDAM,通过结构差异分析和矛盾驱动的模式提取,实现了从实例级错误到结构化语义知识的演化,用于复杂Text\-to\-SQL推理任务。
- •在Spider和Bird基准上的实验表明,我们的方法以0.4%和2.0%的改进持续优于强基线,进一步证明了其有效性。
- •大量分析表明,SDAM\-SQL有效缓解了现有方法的关键局限,相比最先进的通用记忆框架,实现了令人信服的4.04%性能跃升,同时提升了计算效率,有力验证了其在Text\-to\-SQL场景中的领域特定优势。

## 2 相关工作

参见图注Figure 2:SDAM\-SQL概览。工作流程包含两个阶段:\(a\) 记忆构建:我们生成多样化的SQL候选,通过结构差异感知推理树、矛盾感知反思和基于模式锚定的记忆演化机制检测矛盾(§4.1 (https://arxiv.org/html/2608.12338#S4.SS1))。\(b\) 记忆使用:通过语义相似性和模式锚点动态检索相关记忆单元,以指导SQL生成(§4.2 (https://arxiv.org/html/2608.12338#S4.SS2))。

### 2.1 基于LLM的Text-to-SQL

大型语言模型(LLMs)凭借其强大的语义理解和代码生成能力,在Text\-to\-SQL任务中取得了显著进展(Yang等,2025 (https://arxiv.org/html/2608.12338#bib.bib15);Achiam等,2023 (https://arxiv.org/html/2608.12338#bib.bib13);Grattafiori等,2024 (https://arxiv.org/html/2608.12338#bib.bib14);Li等,2023 (https://arxiv.org/html/2608.12338#bib.bib11))。近期研究主要通过提示工程、任务分解和多路径推理来提升SQL生成(Tai等,2023 (https://arxiv.org/html/2608.12338#bib.bib17);Liu and Tan,2023 (https://arxiv.org/html/2608.12338#bib.bib16))。早期方法依赖复杂的提示策略,例如思维链(CoT)Wei等(2022 (https://arxiv.org/html/2608.12338#bib.bib18))和自一致性推理Wang等(2022 (https://arxiv.org/html/2608.12338#bib.bib19))。随后,DIN\-SQL Pourreza和Rafiei (2023 (https://arxiv.org/html/2608.12338#bib.bib4))通过任务分解显著提升了复杂SQL生成能力,而MCS\-SQL Lee等(2025 (https://arxiv.org/html/2608.12338#bib.bib20))通过多提示搜索增强了鲁棒性。为了进一步提升复杂推理能力,近期工作引入了多智能体协作和基于搜索的机制。例如,CHESS Talaei等(2024 (https://arxiv.org/html/2608.12338#bib.bib5))采用多智能体协作进行高精度SQL生成,而Alpha\-SQL Li等(2025 (https://arxiv.org/html/2608.12338#bib.bib6))通过蒙特卡洛树搜索(MCTS)迭代探索最优推理路径,在复杂SQL任务上取得了优异性能。

### 2.2 记忆演化智能体

现有的用于增强LLM智能体在复杂推理任务中能力的记忆机制,大致可分为三类:\(1\) 参数化记忆,通过微调或外部参数模块存储经验,以实现持续适应(Chen等,2023 (https://arxiv.org/html/2608.12338#bib.bib21);Yin等,2024 (https://arxiv.org/html/2608.12338#bib.bib22);Tack等,2024 (https://arxiv.org/html/2608.12338#bib.bib23));\(2\) 基于检索的记忆,将经验抽象为可复用的知识或技能,以实现长期适应(Zhang等,2025a (https://arxiv.org/html/2608.12338#bib.bib24);Zhao等,2024 (https://arxiv.org/html/2608.12338#bib.bib25);Zheng等,2025 (https://arxiv.org/html/2608.12338#bib.bib26);Wang等,2025b (https://arxiv.org/html/2608.12338#bib.bib27));以及\(3\) 隐式记忆,通过潜在表示编码和检索历史经验(Wang等,2025a (https://arxiv.org/html/2608.12338#bib.bib28);Hu等,2025 (https://arxiv.org/html/2608.12338#bib.bib29))。其中,基于检索的记忆因其可解释性和可扩展性,近期受到越来越多的关注。G\-Memory Zhang等(2025a (https://arxiv.org/html/2608.12338#bib.bib24))利用层次图结构组织多智能体经验,以支持协作推理;ExpeL Zhao等(2024 (https://arxiv.org/html/2608.12338#bib.bib25))通过经验回放存储历史轨迹和自然语言规则,实现迭代式自我改进;SkillWeaver Zheng等(2025 (https://arxiv.org/html/2608.12338#bib.bib26))将过程性经验抽象为可复用的API和可执行技能;Mobile\-Agent\-E Wang等(2025b (https://arxiv.org/html/2608.12338#bib.bib27))通过长期记忆机制持续改进移动智能体。

## 3 任务定义

Text\-to\-SQL任务旨在将自然语言问题映射为可执行的SQL查询。形式上,给定问题\(q\)和数据库模式\(S=\{T_1,\ldots,T_m\}\),其中每个表包含一组列\(T_i=\{c_{i1},\ldots,c_{in}\}\),目标是生成SQL查询\(y=f(q,S)\)。与传统方法不同,我们引入并维护一个动态演化的结构化记忆集\(M=\{m_i\}\),用于存储从复杂推理过程中提取的结构模式、语义规则和模式对齐知识。因此,我们将SQL生成任务重新表述为:\(y=f(q,S,M)\),其中\(M\)向生成过程注入补充的结构专业知识和语义约束,从而增强合成查询的执行正确性和模式一致性。

## 4 方法

本节介绍SDAM,一种面向Text\-to\-SQL的结构化记忆框架,将记忆视为结构差异和矛盾分析的产物。该流程包含两个主要阶段(Figure2 (https://arxiv.org/html/2608.12338#S2.F2)):\(1\) SDAM构建,通过结构差异分析和矛盾驱动模式提取构建动态演化的结构化记忆;以及\(2\) SDAM使用,通过语义相似性和模式锚点检索并施加记忆约束,以指导SQL生成。SDAM系统性地解决了三个核心挑战:\(1\) 结构分析薄弱,通过结构差异感知推理树(§4.1.1 (https://arxiv.org/html/2608.12338#S4.SS1.SSS1))建模复杂SQL结构;\(2\) 语义理解浅层,通过矛盾感知反思(§4.1.2 (https://arxiv.org/html/2608.12338#S4.SS1.SSS2))捕捉潜在列语义;以及\(3\) 模式对齐不佳,通过基于模式锚定的记忆演化机制(§4.1.3 (https://arxiv.org/html/2608.12338#S4.SS1.SSS3))确保记忆与模式之间的显式对应。

### 4.1 SDAM构建

#### 4.1.1 结构差异感知推理树

为了解决结构分析薄弱的问题,SDAM构建了一棵结构差异感知推理树。具体而言,我们首先利用LLM对模式表示结构变化的高度敏感性(Liu等,2026 (https://arxiv.org/html/2608.12338#bib.bib31)),通过修改字段描述和模式组织形式来构建多个模式变体(详见附录B.1 (https://arxiv.org/html/2608.12338#A2.SS1)):\(\tilde{S}=\{S_k\}_{k=1}^m\)。基于不同的模式变体,模型在结构化记忆\(M\)的上下文引导下并行生成相应的SQL候选\(y_k\)和推理路径\(R_k\):\((y_k,R_k)=f(q,S_k,M),\quad k=1,\ldots,m\)。由于SQL推理天然具有阶段化和结构化的特征(Li等,2025 (https://arxiv.org/html/2608.12338#bib.bib6)),我们将每条推理路径\(R_k\)视为一系列按固定推理顺序组织的结构化推理节点(见表8 (https://arxiv.org/html/2608.12338#A2.T8)),包括问题改写、表选择、列选择、函数识别、条件值识别和SQL生成。在获得多条推理路径后,我们进一步对不同路径中语义相同的节点进行拓扑合并,同时将结构不同或逻辑冲突的部分保留为分歧的独立分支,从而构建一棵统一的推理树:\(\mathcal{T}=(V,E)\),其中\(V\)表示推理节点集合,\(E\)表示节点之间的依赖关系。通过这种方式,SDAM能够显式建模候选SQL查询之间的结构差异,从而更有效地检测复杂SQL推理中潜在的结构错误。

#### 4.1.2 矛盾感知反思

为了解决语义理解浅层的问题,SDAM在推理树\(\mathcal{T}\)的基础上进一步引入了矛盾感知反思。与仅依赖单个SQL查询的传统表面级反思不同,SDAM利用LLM联合分析推理树中的交集节点和冲突分支。在推理树的组织下,不同推理路径之间的结构差异和逻辑冲突被显式暴露,使潜在矛盾更加清晰、更易于模型识别和分析,从而揭示复杂SQL推理中潜在的错误和隐含的语义信息。具体而言,从三个不同粒度的互补视角分析矛盾(更多细节见附录B.3 (https://arxiv.org/html/2608.12338#A2.SS3)):

- •结构矛盾:捕捉不同推理路径之间的结构差异和逻辑冲突;
- •模式矛盾:检查生成的SQL与模式定义之间的一致性;
- •执行矛盾:判断执行结果是否满足问题语义,并且

相似文章

通过SFT和DPO学习Text-to-SQL的推理时机

arXiv cs.CL

提出了AutoThinkSQL,一个将自动思考机制集成到Text-to-SQL的SFT和DPO中的框架,使模型能够动态跳过简单查询的推理,并对复杂查询调用深度CoT,在Spider和BIRD基准测试上取得提升,同时将输出token减少24.6%,延迟减少17.1%。

从测试时扩展到可复用记忆:衡量文本到SQL中的结晶化

arXiv cs.CL

本文引入了“结晶化问题”,用于评估文本到SQL系统中的可复用记忆,表明将经过验证的修正查询存储在每个数据库的库中,可以将BIRD上留出集的首次尝试准确率提高4.34个百分点,捕获按需修复所提供的44.4%的提升空间。受控干预措施识别出数据库特定内容是主要驱动因素。

学习检索:面向文本到SQL智能体的双层长期记忆

arXiv cs.CL

本文提出了MERIT,一种面向交互式文本到SQL智能体的动态多时域记忆检索框架,它使用情节级别和回合级别的记忆,并通过强化学习以及用于密集奖励的过程奖励模型优化的学习检索策略。在BIRD-Interact和Spider2-Snow上的实验表明,MERIT在成功率上优于静态和单时域动态基线,同时需要更少的交互轮次。