本地LLM在适配法律文档时持续自信地产生虚构引用——是否有接地/模型/流水线的思路？

Reddit r/LocalLLaMA 2026/07/06 02:57 新闻

local-llm legal-document hallucination citation grounding pipeline adaptation

摘要

用户报告称，本地LLM在适配法律文档时以高自信度虚构引用，并寻求关于如何通过接地、模型或流水线思路来缓解此问题的建议。

暂无内容

查看原文

相似文章

arXiv cs.CL

本文通过采用以大语言模型为先、人工仲裁的评估方法重新评估幻觉检测数据集，研究了标准基准是否低估了大语言模型（LLM）的性能。研究发现，在仲裁过程中融入大语言模型的推理能力可以提高评估的一致性，并表明针对容易产生歧义的任务，采用模型辅助的重新评估能产生更可靠的基准。

Reddit r/ArtificialInteligence

对LLM在法律与合规任务中使用的分析显示，模型常常生成自信但无法验证的引用，引发了对AI输出可靠法律依据的质疑。

arXiv cs.CL

本文对LLMs在推理线性化结构化知识时产生幻觉的原因进行了机制分析，发现幻觉源于系统的内部动态，例如对捷径线索的关注以及前馈层中语义基础的失败，而非随机噪声。

arXiv cs.CL

本文介绍了 CiteTracer，这是一个用于检测大语言模型（LLM）生成的科学写作中引用幻觉的多智能体框架，在合成和真实世界基准上均实现了高精度。

Reddit r/artificial

一位为德国律所构建AI法律助手的开发者，详细列出了7种具体的LLM引证失效模式，以及为满足严格法律引证标准而采用的提示工程修复方案。