LLMs中的幻觉：基于生命周期的成因、检测、缓解与预防综述

# 基于生命周期的LLM幻觉综述：成因、检测、缓解与预防
来源：https://arxiv.org/html/2608.26168 \[1\]\\fnmNaveen\\surLamba 1\]\\orgdivCAIMIF 与计算机科学与应用系，\\orgnameSharda大学，\\city大诺伊达，\\country印度 2\]\\orgname马里兰大学巴尔的摩县分校，\\city巴尔的摩，\\country美国 ###### 摘要 幻觉在LLM中的生命周期概念为在医疗、法律和科研等高风险环境中构建LLM的控制与可靠性框架提供了坚实基础。虽然以往综述主要聚焦于检测或缓解，本综述提供了基于生命周期的LLM幻觉概述，涵盖其成因、检测、缓解与预防。我们提出了贯穿LLM生命周期的幻觉三重分类：数据相关、训练相关和推理相关，这与LLM的开发生命周期相一致。我们讨论了每个阶段幻觉的成因、检测方法以及通过特定缓解或预防干预解决问题的途径。此外，我们讨论了现有基准数据及其多项参数，以评估其在识别、限制和管理幻觉方面的适用性。本综述为研究人员和实践者提供了标准化框架，用以系统性地理解、诊断和解决幻觉问题，从而呈现可操作数据，构建更安全、更可靠的LLM。 ###### 关键词：幻觉，LLM，检测，缓解，生命周期分析，评估基准 ## 1引言 大语言模型（LLM）因其强大的生成和推理能力，在法律、科研和医疗等领域日益普及\[10850911,zheng\-etal\-2025\-automation,Maity2025HealthcareLLM\]。近期研究探索了它们在法律推理、科学发现和临床决策支持系统中的应用\[enguehard\-etal\-2025\-lemaj,Zhang2025ScientificMethod,Pal2023\]。LLM通常基于大规模语料库训练，并针对用户指令进行微调。典型例子包括Llama 2\[Touvron2023l\]、Claude\[Anthropic2023\]和GPT\-4\[OpenAI2023\]。其他近期LLM还被赋予了解决复杂认知问题的推理能力，如数学问题求解、多步逻辑推理、代码合成以及在模糊情境下的决策\[DeepSeek\-AI2024,Grattafiori2024\]。尽管有这些进展，但在幻觉的实时评估和控制方面仍面临挑战。幻觉是指LLM产生事实错误、逻辑矛盾或在缺乏可靠依据的情况下捏造内容的现象\[Ji2023,Peng2023\]。高风险领域的幻觉可能危及生命，例如医疗保健中的错误信息、法律语境中的误解以及不正确的科学发现\[Lin2022,OpenAI2023\]。因此，理解幻觉的成因并对其进行系统性管理对于安全部署至关重要。 见标题图1：基于生命周期的LLM幻觉框架。本综述中，我们从生命周期视角审视LLM幻觉。我们将幻觉生命周期定义为LLM管道中可能出现幻觉、并被检测、缓解或主动预防的阶段集合：成因、检测、缓解和预防。图1 (https://arxiv.org/html/2608.26168#S1.F1)展示了LLM幻觉基于生命周期的框架，包含四个阶段：成因、检测、缓解和预防，并映射到LLM管道阶段：数据、训练和推理。它系统地将幻觉成因与其对应的检测、缓解和预防技术联系起来。每种方法都标注了它所解决的具体成因：数据相关（C\.D\.1–C\.D\.3）、训练相关（C\.T\.1–C\.T\.3）和推理相关（C\.I\.1–C\.I\.4）。所有生命周期阶段都进一步结合LLM管道的三个阶段：数据、训练和推理进行研究。 - •成因考察了数据质量、训练动态和推理行为在幻觉中扮演的角色。 - •检测探讨了通过考虑一致性、事实准确性和上下文可匹配性来识别幻觉的方法。 - •缓解旨在最小化幻觉发生后对输出结果的影响。 - •预防涉及在上游阶段限制幻觉发生率的措施，如信息质量和合理的训练指南。 为了将生命周期视角转化为对文献的综合性而非仅仅是描述性概述，本综述将以指导文献选择、分类和解释的特定研究问题为基础。特别是，围绕具体问题构建概述有助于确保生命周期模型不仅在概念上，而且在分析上都可用。本综述解决的研究问题是： - •RQ1：LLM中的幻觉是什么？如何在生命周期框架内理解它？ - •RQ2：幻觉在数据、训练和推理阶段的原因是什么？ - •RQ3：存在哪些检测幻觉的技术？ - •RQ4：哪些缓解和预防策略可以降低幻觉风险？ - •RQ5：现有基准在评估幻觉方面有多合适？ 表1：现有幻觉综述在幻觉生命周期不同阶段的比较。Train = 训练；Infer = 推理 幻觉生命周期 成因 检测 缓解 预防 综述 数据 训练 推理 数据 训练 推理 数据 训练 推理 数据 训练 推理 合适基准 综述维度 Rawte2023 ×\\times×\\times×\\times×\\times×\\times×\\times×\\times×\\times×\\times×\\times×\\times×\\times×\\times×\\times×\\times×\\times×\\times 0 Zhang2023 ✓✓✓ ×\\times×\\times×\\times×\\times✓✓✓ ×\\times×\\times×\\times×\\times×\\times 6 Ji2023 ✓✓✓ ×\\times×\\times××\\times✓✓✓ ×\\times×\\times×\\times×\\times×\\times 6 Ye2023 ×\\times×\\times×\\times×\\times×\\times×\\times✓✓✓ ×\\times×\\times×\\times×\\times×\\times 3 Huang2024 ✓✓✓ ×\\times×\\times×\\times×\\times✓✓✓ ×\\times×\\times×\\times×\\times×\\times 6 Andriopoulos2023 ✓×\\times×\\times×\\times×\\times×\\times✓×\\times✓✓ ×\\times×\\times×\\times×\\times×\\times 4 Bai2025 ✓✓✓ ×\\times×\\times×\\times×\\times✓✓✓ ×\\times×\\times×\\times×\\times×\\times 6 Lavrinovics2024 ×\\times×\\times×\\times×\\times×\\times×\\times✓×\\times✓×\\times ×\\times×\\times×\\times×\\times×\\times 2 Tonmoy2024 ×\\times×\\times×\\times×\\times×\\times×\\times✓✓✓✓✓✓ ×\\times 6 Agrawal2023 ×\\times×\\times×\\times×\\times×\\times×\\times✓×\\times✓✓✓ ×\\times×\\times×\\times×\\times×\\times 4 本综述 ✓✓✓✓✓✓✓✓✓✓✓✓✓ 13 本综述的所有主要部分都围绕回答这些研究问题中的一个或多个来构建。最后的讨论部分是例外，它回顾了研究问题以总结相关发现并指出留给未来研究的空白。 与现有综述的关联。表1 (https://arxiv.org/html/2608.26168#S1.T1)将我们的综述与先前工作进行了比较。它也阐明了我们如何定义这13个维度：四个生命周期阶段（成因、检测、缓解和预防），每个阶段分析LLM管道的三个阶段（数据、训练和推理），再加上一个专门的基准测试维度。这总共产生了13个维度。大多数现有综述仅涵盖幻觉生命周期的一到两个阶段，通常专注于缓解和预防。因此，现有发现往往是零碎的，并且没有系统地将幻觉与LLM生命周期的特定阶段联系起来\[Peng2023\]。与专注于缓解的综述如Tonmoy2024和Agrawal2023相比，我们提出的框架额外纳入了影响幻觉行为的数据和训练阶段因素。这种更广阔的视角强调了LLM管道早期引入的脆弱性如何可能导致下游生成错误，从而促进了贯穿整个生命周期的干预策略。我们还讨论了幻觉相关行为与认知现象（如来源遗忘、虚构和暗示性）之间的解释性类比\[Ellis2020,McClelland1955,Schacter2021\]。这些认知类比主要作为启发式和解释性类比，而非人类认知与LLM行为之间的正式认知等价声明。 基准分析。当前幻觉测量基准通常专注于单一任务，如问答、摘要或对话\[Lin2022,Heo2025,Min2023\]，而没有考虑幻觉在LLM生命周期中的发展和增长。这些数据集通常不基于可验证的外部知识，可解释性差，并且无法反映动态的推理行为。为此，我们建议使用一个包含15项标准的整体评估框架（表5 (https://arxiv.org/html/2608.26168#S7.T5)），分析基准对各个生命周期阶段的适用性。该框架识别了现有数据集的不足，并强调了多维基准的必要性，以促进逐层诊断、思维链验证和特定领域的幻觉监控\[Peng2023,Ji2023\]。从生命周期的角度来看，基准的适用性不仅取决于任务级别的准确性测量，还取决于分析幻觉如何在LLM管道的不同阶段出现、传播和被控制的能力。 主要贡献。本综述的贡献如下： - •我们提出了一个基于生命周期的框架，连接了数据、训练和推理阶段的幻觉成因、检测信号、缓解策略和预防技术。 - •我们使用“根源-触发-表现”框架综合了幻觉成因，解释了幻觉如何在LLM管道中传播。 - •我们基于源自生命周期不稳定信号的可观察指标，组织了幻觉检测技术。 - •我们展示了缓解和预防策略的比较分析，包括有效性和计算成本的量化比较。 - •我们评估了现有的幻觉基准，并指出了在衡量整个生命周期阶段幻觉行为方面的局限性。 综述结构。本综述的其余部分根据提出的生命周期框架组织。第3节 (https://arxiv.org/html/2608.26168#S3)将讨论数据、训练和推理中幻觉的成因；第4节 (https://arxiv.org/html/2608.26168#S4)将以同样的方式概述检测技术；第5节 (https://arxiv.org/html/2608.26168#S5)将讨论缓解技术；第6节 (https://arxiv.org/html/2608.26168#S6)将讨论主动预防技术。最后，第7节 (https://arxiv.org/html/2608.26168#S7)将在多标准矩阵上评估当前基准，以评估其在处理LLM生命周期中幻觉方面的适用性。 ## 2方法论 本综述遵循结构化和透明的评估方法论，旨在确保整个评审过程的一致性、可追溯性和可重复性。该方法论不仅仅依赖叙事综合，还结合了系统性文献识别、筛选、资格评估、基于生命周期的编码和比较分析。这一过程在所选文献和本综述中呈现的分析发现之间建立了可追溯的关系。图2 (https://arxiv.org/html/2608.26168#S2.F2)展示了一个PRISMA风格的流程图，总结了文章的选择和评估过程。 ### 2\.1文献识别 从各种学术资源收集了多篇作品，以涵盖同行评审文章和本快速发展领域中的重要技术预印本。还查阅了IEEE Xplore、ACM数字图书馆、arXiv和Google Scholar，以确保在持久的重要文献和近期与LLM相关的作品之间取得平衡。搜索侧重于与LLM幻觉和事实不一致性相关的关键词组合。代表性查询词包括：*"LLM hallucination", "hallucination in large language models", "factual inconsistency in generative models", "hallucinated text generation", "reliability of large language models"*。文章搜索涵盖了2020年至2025年间的出版物，即指令微调LLM开始受到更广泛关注的时期。初步检索获得157篇候选文章。这些文章包括综述文章、因果分析、检测技术、缓解策略和基准研究。为确保搜索未遗漏其他重要文章，我们还参考了高引用率文章的参考文献列表。 ### 2\.2纳入与排除标准 应用了明确的纳入和排除标准以保持筛选的一致性。符合以下条件的研究被纳入： - •直接解决LLM中的幻觉、事实不一致性或可靠性问题 - •提供实证、方法论或基于基准的分析 - •以英文撰写 - •是同行评审或广泛认可的技术预印本 - •包含足够支持生命周期分类的方法论细节 符合以下条件的研究被排除： - •主要由观点或社论评论组成 - •与LLM幻觉无关 - •重复之前已识别的记录 - •全文无法访问或不完整 - •缺乏实质性技术贡献 这些标准旨在确保最终语料库反映实质性研究，而非轶事讨论。排除过程旨在优先考虑具有足够技术深度且与面向生命周期的幻觉分析直接相关的研究。仅间接提及幻觉现象、缺乏方法论透明度或未提供可分析的技术贡献的论文被排除，以保持所审阅文献的一致性和可比性。 ### 2\.3筛选与资格评估 见标题图2：说明本综述文章选择过程的PRISMA风格流程图。筛选包括两个步骤。首先，使用标题和/或摘要作为搜索工具，识别该主题上可信且相关的文献。根据相关性标准，157篇文章中有112篇通过了第一轮筛选。接下来是资格检查。7篇因被视为重复而未能通过。5篇因语言限制被排除，58篇因全文不可用而被淘汰。然后，42篇作为全文进行了进一步筛选，并根据生命周期框架标准检查了其相关性和适当性。最终，30篇通过了全部筛选。因此，最终的分析语料库旨在代表一个针对方法论相关的幻觉研究的、聚焦于生命周期的综合文献集，而非所有LLM相关出版物的详尽目录。 ### 2\.4数据提取 使用标准化的数据提取流程分析综述中的每项研究，以便比较不同方法的结果。提取数据的目的并非列出所有方法，而是获取一些能阐明为何某项研究属于幻觉生命周期一部分的广泛属性。研究选择过程强调代表性。