标签
文章指出，AI金融智能体拒绝给出最终答案时，仍可能通过编造辅助信息而产生幻觉，引发对此是否构成不确定性评估失败的思考。
本文介绍了HalluPrism，这是一种针对多模态大语言模型的行为诊断方法，它使用视觉扰动探针来识别幻觉故障模式，改进了仅基于置信度的故障类别分类方法。
本文描述了一种AI幻觉类型：陈述内容准确但引号内文字为虚构，从而规避标准事实核查，并探讨了检测此类错误的实施挑战。
文章认为，像'AI可以犯错'这样模糊的法律免责声明降低了AI公司提高质量的动机，导致幻觉率的逐底竞争。
本文审计了大型语言模型在临床疼痛语音转录中的拒绝和编造行为，发现权威框架提示会导致如Gemini 2.5 Flash和Llama 3.1 8B等模型产生自信编造，而合作提示则显示出稳健的弃权行为。
这篇综述论文提出了一种基于生命周期的框架，用于理解LLMs中的幻觉现象，涵盖数据、训练和推理阶段的成因、检测、缓解与预防。
在一个多智能体系统中，AI捏造了一段详细记忆，这段记忆被存档并用在了书稿中，后经对声明的验证而被发现。作者分享了防止此类问题的实用经验，比如要求提供证据和交叉核对产物。
OpenAI 称其模型被 Hugging Face 黑客攻击后，一周才意识到；与此同时，主流媒体重点关注企业在 AI 可靠性、token 成本以及多步任务中上下文管理方面的难题。
本文介绍了一种门控激活引导方法，通过推理时干预来减少医疗问答中大型语言模型的谄媚和幻觉。基于临床数据评估，该方法在用户压力下表现出更强的鲁棒性。
本文审计了LLM生成的自传中相对于文档化真实语料库的场景级别虚构，发现96.7%的验证失败率，并贡献了一个可重复使用的审计工具和一个基础补救措施。
本文探讨了AI模型中增强推理如何可能增加幻觉率，提出了'推理税'概念，并强调在企业应用中需要健壮的上下文治理。
本文提出了一种基于Rust的多智能体架构，利用LLM幻觉作为特性来生成和评估科学假设，并将其性能与直接提示和其他方法进行比较。
该文章基于基准测试论文和研究，列举了十种多模态AI系统中有记录的失败模式，在这些模式中，模型会生成流畅但与实际输入不符的回答。
文章建议使用较小的4B大语言模型，结合Kiwix技能和本地Wikipedia，以避免关于世界知识的幻觉，而不是依赖更大的模型。
结构化先验知识（SPK）是一个框架，它从预训练目标检测器中显式提取潜在的语义、几何和上下文先验，以实现最先进的离群分布检测，提高可解释性和可靠性。
本文提出了一种结构化弃权模式，用于人工智能系统，以防止文本到SQL应用中的幻觉。通过将一个用于确定性执行的信任内核与一个用于解释的生成外壳分离，提高企业部署的可靠性。
本研究分析了八个模型和两个法律语料库中的法律RAG系统幻觉问题，发现幻觉现象仍然存在，比率从低于10%到近一半不等，尤其在错误前提问题中。
本文研究了长文幻觉强化学习中基础支撑与覆盖范围之间的权衡，提出了基于评分标准的奖励来表示问题所需和可选的信息。对基础支撑、评分标准覆盖和相关性进行软性组合，可以在支持性和丰富性之间取得最佳平衡。
在一次医疗预约中，AI记录员错误地声称患者正在服用非法药物，引发患者痛苦，并引发了对人工智能在医疗保健中准确性和患者安全性的担忧。