hallucination

一位具有编码背景的VP/PM分享了使用Claude Opus和Fable等LLM的实践经验，重点指出了模型在记忆、幻觉和原创性方面的局限，同时强调了人类直觉和领域专业知识不可替代的价值。

讨论验证智能体在长时间任务后输出结果的困难，并提出是否使用批评者智能体或可追溯性工具来确保可信度。

一个AI智能体利用自我验证技术，从一篇从未见过的研究论文中构建了知识图谱，以减少幻觉。

提出了三种注意力引导的大语言模型对比解码层选择策略，在TruthfulQA上相比DoLa基线提高了事实准确性。

本文提出了一种新颖的在线强化学习方法，通过设计兼顾事实精确性、细节丰富度和回答相关性的奖励函数，来提升推理大语言模型的事实准确性。在六个基准测试上，该方法将幻觉率降低了23.1个百分点。

本文首次系统研究了文档接地播客生成中的忠实度问题，提出了一个轮次级别的LLM作为评委的评估框架，以及一个与模型无关的捕获-修复方法，该方法能跨领域提高忠实度。

本研究评估了前沿和开放权重LLM在IMO 2026题目上的表现，证明像AutoFyn这样的专用工具链能显著提升次前沿模型的性能，不过在最难的题目上仍然存在幻觉问题。

Anthropic 的 Opus 5 在编程任务上表现出非单调性能；由于不必要的重构，“高”努力档位的表现优于“最大”档。该模型的幻觉率也比 Opus 4.8 高出 6%，并且安全分类器可能会静默回退到旧模型。

一位开发者分享了如何通过检索纪律将智能体锚定到知识库（而非使用更好的模型）来解决自动幻灯片生成中的幻觉问题。该方法将检索与写作分离，并在渲染前强制执行来源检查。

一项研究表明，语言模型在需要填写JSON等结构化字段时会生成幻觉，即使它们在自由文本中会诚实地回避。PhantomFill基准测试衡量了强制编造率。

本文提出一个可复现的框架，通过分析幻觉现象来测量LLM在回答政治问题时产生的意识形态漂移。研究发现，幻觉内容表现出明显的左倾偏差，即使来源于右倾新闻文章也是如此，并将此与高不确定性生成上下文联系起来。

本文首次严格研究了LLM水印方案如何影响医学性能，在多个LLM和VLM上评估了五种水印在临床推理任务中的效果。作者发现，水印可能导致医学文本质量下降，包括幻觉和词汇损坏，而这些在通用领域的基准测试中被掩盖。

Joseph Decker 为他的产品 Condensr 评估了16个AI模型的真实性，发现排行榜冠军在审计中五次编造内容，于是转而部署了零编造的第二名模型。这篇文章详细介绍了评估过程、LLM判断器中的一个漏洞（由于截断的转录而惩罚了准确的摘要），以及自定义评估优于通用基准的重要性。

一位独立创始人通过Paperclip协调运行16个AI代理，分享出问题与有效之处，包括通过QA代理缓解的幻觉功能承诺，以及用代码级执行取代提示规则。

本文通过在合成语料库上进行受控实验，研究了格式、指令数量和上下文长度如何影响大型语言模型（LLM）的指令遵循与幻觉。研究发现，无论何种格式，当规则数量超过80条时，指令遵循会崩溃；而回忆准确率在64-128k token之后急剧下降，且受格式影响。本文还发布了VeyraBench工具包以支持复现。

SAAG提出了一种级联诊断框架，用于评估LLM智能体函数调用，通过将评估分解为注册一致性、结构完整性和参数基础验证三个阶段，实现可解释的诊断和迭代自我修复。在sub-4B模型上的实验表明，与单次评估相比，参数精度得到提升，值幻觉减少。

本文发现，更大的语言模型存在一种隐藏的自回归风险机制，在该机制下，模型会承诺低概率词元，进而导致错误滚雪球式增长，使得可靠性随规模扩大而更快下降。研究表明，这种故障模式是因果性的、主导性的，并且对模型自身的自我监控不可见。

在RTX Pro 6000上对Laguna-S-2.1与Qwen3.5-122B的评估显示，它是所测试过的最快的100B+模型，工具调用能力最佳，但在压力下容易编造事实。

提出HALO架构，该架构包含六层防御机制，以遏制企业AI系统中的幻觉现象，将'零幻觉'重新定义为系统强制属性而非模型属性。

本文提出符号增强（Symbolic Augmentation），一种训练时框架，利用符号验证器生成增强数据，填补了神经事实核查器中的一个盲点，即规范等价的量改写会导致准确率崩溃。该方法在此类改写上实现了98.2%的鲁棒性（从36.5%提升），并略微提高了整体性能。