用记忆替代训练:面向Text-to-SQL的列表式选择

Hugging Face Daily Papers 论文

摘要

MaP-SQL 通过采用结构化记忆检索和基于排列的排名聚合,无需微调即可增强 Text-to-SQL 的列表式选择性能,在减少令牌使用量的同时超越了最先进的方法。

现代 Text-to-SQL 系统通常遵循生成-执行-选择流程,先生成多个候选查询,再选出最佳的一个。列表式选择通过联合比较多个候选查询而被广泛采用,但微调列表式选择器成本高昂。因此,我们提出一种无需微调的列表式选择器。我们用推理时策略替代了两个主要的微调目标:(1) 将选择标准学习为排序;(2) 缓解位置偏差。首先,我们构建可重用的结构化记忆,而不是将选择行为作为模型参数来学习。给定一个问题,MaP-SQL 检索从训练数据中蒸馏出的记忆,这些记忆编码了自然语言如何映射到模式元素、SQL 操作和预期输出。这些记忆作为显式决策标准,用于以列表方式评估候选查询。其次,为缓解列表式选择器的排序偏差,我们在多个输入排列上聚合排名,推理成本通过执行结果和点态评分进行优化。我们的方法在保持效率和与现有大语言模型兼容性的同时,提高了选择准确性。在 Text-to-SQL 基准测试中,它无需微调,选择更稳定,且比现有方法减少了不必要的比较。在 BIRD-dev 上,使用相同的候选集,它平均比之前的基于选择器的最先进方法 R^3-SQL 高出 2.02 个执行准确率点,且令牌使用量减少了 2.92 倍。
查看原文
查看缓存全文

缓存时间: 2026/09/04 03:58

论文页面 - 以记忆替代训练:文本到SQL的列表式选择

来源:https://huggingface.co/papers/2609.00834

摘要

MaP-SQL通过使用结构化记忆检索和基于排列的排名聚合,在无需微调的情况下改进了列表式文本到SQL选择。

现代文本到SQL (https://huggingface.co/papers?q=Text-to-SQL) 系统通常遵循生成-执行-选择流程,生成多个候选查询后选择最佳一个。列表式选择 (https://huggingface.co/papers?q=Listwise%20selection) 通过联合比较多个候选方案已被广泛采用,但微调列表式选择器成本高昂。因此,我们提出了一种无需微调的列表式选择器。我们用推理时策略 (https://huggingface.co/papers?q=inference-time%20strategies) 替代了两个主要的微调目标:(1) 学习选择标准作为排序;以及 (2) 缓解位置偏差 (https://huggingface.co/papers?q=positional%20bias)。首先,我们构建可复用的结构化记忆 (https://huggingface.co/papers?q=structured%20memories) ,而不是将选择行为作为模型参数进行学习。给定一个问题,MaP-SQL 从训练数据中提取编码了自然语言如何映射到模式元素、SQL 操作和预期输出的记忆。这些记忆作为评估候选方案的明确决策标准,以列表式方式进行。其次,为缓解列表式选择器的排序偏差,我们跨多个输入排列聚合排名,推理成本通过执行结果和逐点评分进行优化。我们的方法在保持效率和与现有大型语言模型兼容性的同时,提高了选择准确性。在文本到SQL (https://huggingface.co/papers?q=Text-to-SQL) 基准测试中,它在无需微调的情况下产生了更稳定的选择,且与现有方法相比,不必要的比较更少。在 BIRD-dev 上,使用相同的候选集,它在执行准确性 (https://huggingface.co/papers?q=execution%20accuracy) 上平均比先前基于选择器的最先进的方法 R^3-SQL 提升了 2.02 个百分点,且使用的 token 减少了 2.92 倍。

查看 arXiv 页面 (https://arxiv.org/abs/2609.00834) 查看 PDF (https://arxiv.org/pdf/2609.00834) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2609.00834)

通过你的代理获取此论文:

hf papers read 2609\.00834

没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型链接此论文。

在模型的 README.md 中引用 arxiv.org/abs/2609.00834 以从本页链接它。

引用此论文的数据集0

没有数据集链接此论文。

在数据集的 README.md 中引用 arxiv.org/abs/2609.00834 以从本页链接它。

引用此论文的空间0

没有空间链接此论文。

在空间的 README.md 中引用 arxiv.org/abs/2609.00834 以从本页链接它。

包含此论文的合集0

没有合集包含此论文。

将此论文添加到合集 (https://huggingface.co/new-collection) 以从本页链接它。

相似文章

学习检索:面向文本到SQL智能体的双层长期记忆

arXiv cs.CL

本文提出了MERIT,一种面向交互式文本到SQL智能体的动态多时域记忆检索框架,它使用情节级别和回合级别的记忆,并通过强化学习以及用于密集奖励的过程奖励模型优化的学习检索策略。在BIRD-Interact和Spider2-Snow上的实验表明,MERIT在成功率上优于静态和单时域动态基线,同时需要更少的交互轮次。

SDAM:面向复杂Text-to-SQL的结构差异感知记忆演化

arXiv cs.CL

本文提出SDAM,一种基于记忆的复杂Text-to-SQL框架,利用结构差异感知推理、矛盾感知反思和基于模式的记忆演化来改进SQL生成。实验在BIRD-dev和Spider-test基准上展示了适度的性能提升。

R^3-SQL: Ranking Reward and Resampling for Text-to-SQL

Hugging Face Daily Papers

# Paper page - R^3-SQL: Ranking Reward and Resampling for Text-to-SQL Source: [https://huggingface.co/papers/2604.25325](https://huggingface.co/papers/2604.25325) ## Abstract R$^3$\-SQL addresses inconsistencies in scoring functionally equivalent SQL queries and improves candidate recall through unified reward ranking and agentic resampling techniques\. Modern[Text\-to\-SQL](https://huggingface.co/papers?q=Text-to-SQL)systems generate multiple candidate[SQL queries](https://huggingface.co/papers