论文页面 - 当大语言模型粗心地读取表格：测量和减少数据引用错误

来源：https://huggingface.co/papers/2606.32029

摘要

大语言模型在处理表格时会出现数据引用错误，可以通过基于评论者的过滤和拒绝采样来缓解，一个轻量级的4B参数模型能够实现高检测准确率。

虽然大语言模型 (https://huggingface.co/papers?q=large%20language%20models)（LLMs）在表格任务 (https://huggingface.co/papers?q=table%20tasks)上表现良好，但它们仍然会出现数据引用错误 (https://huggingface.co/papers?q=data%20referencing%20errors)（DREs），即尽管理解了表格结构，却错误地引用或遗漏了表格中的值。除了最终答案准确率 (https://huggingface.co/papers?q=answer%20accuracy)之外，DREs 直接损害了中间推理步骤的正确性和可靠性。然而，先前的研究仅提供了有限的小规模分析。在这项工作中，我们首次对跨不同模型和任务的表格数据引用错误 (https://huggingface.co/papers?q=data%20referencing%20errors)进行了系统评估。我们的结果表明，所有测试的模型（1.7B 到 20B 参数）都会出现 DREs。此外，我们证明了将数据引用作为评论者纳入，通过基于评论者的过滤 (https://huggingface.co/papers?q=critic-based%20filtering)和拒绝采样 (https://huggingface.co/papers?q=rejection%20sampling)，能将答案准确率 (https://huggingface.co/papers?q=answer%20accuracy)提高最多 12.0%。最后，我们训练了一个轻量级的 4B 参数评论者模型，在检测分布内 (https://huggingface.co/papers?q=in-distribution)和分布外 (https://huggingface.co/papers?q=out-of-distribution)的 DREs 时，平均 F1 分数 (https://huggingface.co/papers?q=F1%20score)达到了 78.2%，并能有效辅助更大模型的推理。

查看arXiv页面 (https://arxiv.org/abs/2606.32029) 查看PDF (https://arxiv.org/pdf/2606.32029) GitHub2 (https://github.com/ayyyq/table-referencing) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2606.32029)

在您的 agent 中获取此论文：

hf papers read 2606.32029

没有最新的 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 0

没有模型链接此论文

请在模型 README.md 中引用 arxiv.org/abs/2606.32029 以从该页面链接。

引用此论文的数据集 0

没有数据集链接此论文

请在数据集 README.md 中引用 arxiv.org/abs/2606.32029 以从该页面链接。

引用此论文的 Spaces 0

没有 Space 链接此论文

请在 Space README.md 中引用 arxiv.org/abs/2606.32029 以从该页面链接。

包含此论文的收藏集 0

没有包含此论文的收藏集

请将此论文添加到一个收藏集 (https://huggingface.co/new-collection) 中以从该页面链接。