hallucinations

一位Reddit用户警告称，在流体动力工程分析中，Claude、ChatGPT、Gemini和DeepSeek正在给出根本性错误且可能带来危险的答案，这引发了人们对安全关键工程领域中AI错误的担忧——尤其是在用户缺乏专业知识来发现这些错误的情况下。

Google 因自动化 AI 提交大量无效或臆造的报告，令工程师和开源维护者不堪重负，已暂停开源软件漏洞奖励计划至 2027 年。

一位非专业人士提出了一个关键问题：AI 的幻觉和可靠性究竟是在真正改善，还是已陷入停滞。他认为，真正的成功取决于普通用户能否以高度自信将任务委托给 AI，而不是仅仅把它当作升级版的搜索引擎或摘要工具。文中以 OpenAI 新推出的 Dot 助手为例，指出该产品虽然营销令人印象深刻，但仍然会出现幻觉，且表现得相当笨拙。

本文批判了检索增强生成（RAG）系统，通过实验证明嵌入无法捕捉矛盾等上下文细节，导致幻觉，并强调了强大底层模型在准确AI响应中的关键作用。

本文批判了AI智能体中自主错误恢复的现实，强调了如幻觉和破坏性重试等问题，并主张具有严格控制的确定性系统在生产工作流中表现更佳。

这篇文章推荐了一篇技术长文，解释了Jev这个专注于强类型决策的专用模型如何通过降低成本、提供置信度分布和在格式上缓解幻觉来提升AI代理的效率。

作者质疑对AI快速发展的恐慌，指出ChatGPT频繁出错并捏造来源。

本文讨论了AI智能体软件工程中的两个关键差距——需求差距和模型差距——这些差距导致了奖励黑客行为和幻觉，并强调了需要人类判断来解决这些问题。

一位科技企业家反思在商业中使用AI工具，并质疑是否追求完全自动化，提及对幻觉和客户信任的担忧，同时寻求社区见解。

一名用户在群聊中测试了ChatGPT、Claude和Gemini，让它们相互事实核查以捕捉幻觉，并邀请Reddit提供有挑战性的提示来发现共同盲点。

本文讨论了当前AI防护措施的困境，重点介绍了由于用户安全问题和与AI代理的情感纽带，Meta和OpenAI等公司面临的技术问题和法律纠纷。

本文提出了一种方法，通过构建分类器来预测响应正确性，以改进黑盒大语言模型的置信度估计。该方法以最小的计算开销超越了现有的零样本方法。

Reddit的志愿者版主无意中创建了一个对AI训练至关重要的结构化数据集，但他们的偏见和任意规则可能会将错误和偏见嵌入到AI系统中，导致现实世界的问题，如幻觉和操纵。

本文将多智能体LLM流水线中的幻觉传播建模为马尔可夫过程，表明错误在各个阶段变得越来越难以检测，并提出早期验证以降低存活率。

作者反思了自己在使用前沿AI模型时幻觉经历的减少，并询问社区对幻觉是否已解决的看法。

AI模型正在被优化，以牺牲事实知识来提升推理能力，这导致在知识基准测试中出现更高的幻觉率，但在数学和代码任务上表现更佳。

一篇综述论文，系统分析了多模态大语言模型不断演变的安全格局，涵盖了对抗性攻击、数据投毒、越狱和幻觉等新兴威胁，并回顾了更新后的安全策略。

一位用户分享了对使用LLM分析客户反馈的担忧，指出模型可能会自信地呈现罕见的反对意见，并建议抽查原始数据以验证AI生成的模式。

文章讨论了为何LLM无法从用户交互中学习，且缺乏确定性的真值层，提出动态知识图谱可以减少幻觉并在医学等高风险领域提升性能。

本文比较了 Qwen3.6-27B 的三种量化变体（Unsloth 和 Nvidia 的 NVFP4，Intel 的 int4-AutoRound），并向社区请求基准测试和幻觉数据。