标签
一篇观点文章，认为AI系统，尤其是大型语言模型，本质上是胡说八道者，因为它们生成看似合理但虚假的信息，既无理解也无欺骗意图。
文章讨论了一位律师在准备证词时依赖ChatGPT，结果引用了两个不存在的案例的真实事件，法官在法庭上指出了这个错误，并引发了关注。文章还邀请读者分享自己经历的AI失败故事。
评论云南中考疑似使用AI出卷，指出AI存在幻觉问题，强调AI提效的同时需要更严格的测试与审核。
一篇比较主流AI模型幻觉率的博客文章显示，较小的开源模型（如 GLM-5.2）比大型专有模型（如 GPT-5.5）显著更少产生幻觉，这表明扩大模型规模带来的收益正在递减。
Alex Ellis比较了本地Qwen模型与云端的Claude Opus，分享了他在自己的软件业务中使用本地AI的经验。他强调了本地模型在特定任务中的实用价值，同时也承认了其局限性，例如量化时出现的幻觉和无限循环。
AutoFlow讨论了AI信任的关键挑战，提出了外部验证方法，如知识图谱和数学一致性检查，并宣布加入NVIDIA Inception计划，以推进可信AI系统的研究。
本文提出了一种多智能体框架，采用确定性编排和神经符号状态跟踪，以减轻医疗LLM应用中的过早诊断交接和无声幻觉。
作者分享了他们在Nex-N2 Pro上的体验，最初误以为是Rio-3.5，并发现它在编码基准测试中表现异常出色，无幻觉问题，在他们的Mac设备上可与GPT-5.x媲美。
构建了一个AI管道，将金融新闻转化为结构化分析，包括情感、风险和机遇，重点通过提示工程和验证确保一致性。
一个照片画廊，展示了两周内AI生成的幻觉图像，托管在hallucinate.site上。
Kardle 进行了一项模拟实验，比较 GPT-5.5 和 Grok 4.20 在生死攸关时刻是否会撒谎，结果显示 GPT-5.5 撒谎而 Grok 4.20 不说谎。
本文提出SafeLLM，一种基于提取的方法，用于从安全关键文档中检索信息，表明行号选择在减少幻觉的同时保持高召回率方面优于基于重写的RAG方法。
本文分析了大型语言模型中的幻觉，将其视为三个架构决策的结构性后果：自注意力的共现学习、最大似然估计训练目标以及自回归解码的左到右承诺。它将每种机制映射到特定的幻觉类型，并论证了数据集病态会放大但不会导致这些脆弱性。
ChatGPT 被发现推荐虚假诈骗网站和已倒闭品牌的克隆店铺，引发对其训练数据被投毒以及人工智能购物助手安全性的担忧。
本文提出全局-局部不确定性（GLU），一种无监督单次评分方法，融合词元级局部熵与隐藏状态几何全局熵，用于LLM不确定性量化，证明两者近乎正交，共同捕捉自信但错误的失效模式。
一个思想实验提出疑问：指示AI模型永远不要产生幻觉会触发其自我反思，还是会导致模型自我欺骗，相信自己没有产生幻觉？
讨论了一种常见的AI代理失败模式：模型自信地声称已执行了某个操作（例如发送邮件），但实际上并未调用所需的工具，并询问社区如何检测和处理这种生产环境中的静默失败。
一位作者创建了一个零网络存在感的新虚构身份，发现尽管防火墙阻止所有AI爬虫访问网站，AI模型仍在6天内正确引用了该身份，揭示了AI是通过知识图谱和第三方提及而非直接爬取来拼凑信息的。
一篇评论文章指出，当前如Perplexity和Gemini等AI研究工具因幻觉而产生缺陷，主张使用AI配合经过精选的、隔离的可信书籍知识库，以确保基于事实的真相，并防止扭曲的世界观伤害未来几代人。
一位从业者讨论了LLM代理中的校准与效用权衡，分享了基于验证器的流水线经验，该流水线将幻觉工具调用减少了约60%，但引入了延迟成本并丢失了简单的正确答案。