标签
《WIRED》报道称，主流 AI 聊天机器人在回答有关美国中期选举的问题时，经常给出不准确、过时或带有党派倾向的答案。研究显示，近 40% 的选举相关回答包含事实错误，而且聊天机器人经常引用被称为“粉红黏液”的党派宣传网站。
斯坦福研究者用 20 个新模型重新测试了 50 项被广泛引用的 LLM 结论，发现 44% 已失效、34% 明显减弱、仅 16% 仍成立，表明 LLM 研究结论的‘保质期’可能只有约 15 个月。
《连线》的一篇指南介绍了在进行网络搜索时，ChatGPT、Claude 和 Gemini 等 AI 聊天机器人何时值得信赖，以及何时使用传统搜索更稳妥。指南指出，AI 擅长基本信息查询和需要综合多个来源的复杂查询，但在回答冷僻问题时表现欠佳，还可能依据质量低劣的来源给出信心十足的答案。
该论文提出了 Bilal-Bench，这是一个包含 240 道题、经专家验证的孟加拉语基准，用于评估开放式伊斯兰文献来源编造问题。论文评测了七个开放权重模型（参数量为 10 亿至 1200 亿），发现其中六个模型在 79.3%–95.3% 的要求提供文献来源的问题上会自信地编造来源，且表现并未随模型规模增大而单调改善。
LlamaIndex 发布了 BooBench，一个有趣的 179 页万圣节主题基准测试，通过"吓唬"大模型和文档 OCR 工具使其输出重复字符，暴露出视觉语言模型在面对带有引导点、涂黑标记等重复元素的真实文档时会陷入重复循环的失败模式。
Trakkr Research 对 ChatGPT、Perplexity、Gemini、Claude 和 Google AI Overviews 引用的 1,285 条统计数据进行了测试，发现只有 40% 能追溯到得出相同结论的研究，而许多「僵尸数据」背后根本没有任何研究支撑。
OA-RAG 是一种智能体框架，将基于形式化本体的推理与大语言模型（LLM）推理相结合，以提高检索增强生成的忠实性，报告依据级别（逻辑蕴含、有支持、相关、不相关），并在基于大规模本体构建的医学问答基准上取得领先表现。
作者通过 Hugging Face 的 token 追踪数据反驳了 Cohere 关于 Qwen 3.8 Flash Next 向阿里远程 URL 上传数据的说法，指出该行为需要特定的 2,232-token 前缀才会触发，且在正常使用中几乎不可能遇到。
一位实践者开展了一项由四个智能体组成的 RAG 小组实验，并记录了三种意料之外的失效模式：引用无关但看似支持结论的资料、智能体引用自己生成的笔记，以及固定的 top-K 检索迫使智能体用引用凑数。帖子分享了正在推进的改进措施，并询问社区如何衡量 RAG 的实际提升。
norregel 是一个预注册基准，用于测试语言模型能否给出挪威法律中带日期的数值（金额、百分比、年龄限制等）。第二轮预注册实验显示模型对训练截止后生效的数值更易给出过时答案，但该效应在敏感性分析下并不稳健，且部分模型（如 Haiku 4.5）答案大多不可解读。
提出一种目标感知的幻觉压力测试筛选方法，通过迭代编辑源材料的种子提示来暴露特定大模型的幻觉问题。实验显示，编辑后的提示显著提升了幻觉的严重程度，但跨模型的提示级得分相关性很低，表明其诊断价值具有模型特异性。
一项对比基准研究，在四个复杂度级别下使用70个学术提示词对十个大语言模型进行评估，测量其幻觉率与回答偏差。研究发现，回答完整性与事实可靠性之间存在权衡，其中 Perplexity 和 DeepSeek V3 在准确性方面得分最高。
该论文评估了单一 LLM 基线与三种多智能体拓扑在临床任务中的表现，发现协作能提升任务指标，但并不必然降低幻觉，且模型本身而非拓扑结构决定了幻觉的变化方向。
用户吐槽 Grok 模型幻觉严重，反复纠正后仍坚持错误猜测 NAM 的含义，认为模型质量差导致 Grok bot 在严肃场景下无法使用。
Qwen 千万级文档 RAG 流水线通过混合检索、引用约束生成、声明级验证与校准弃权四层防线，将不可回答问题的幻觉率压至 2%，p95 延迟保持 18ms，是一套值得借鉴的生产级防幻觉架构。
一个团队分享了他们的自托管RAG客服聊天机器人如何自信地混淆了两份保修政策，并向客户承诺免费维修；同时对比了捕捉此类错误的方案——使用Langfuse或Arize Phoenix等工具追踪检索到的文本块，或通过Orq AI或NeMo Guardrails的护栏拦截未经核实的回答。
一项大规模研究分析了 DeepSeek、Qwen、豆包和腾讯元宝等中文生成式搜索助手的 160,860 条引用，发现近 40% 展示给用户的链接从未被实际用于生成回答，且约 13% 的答案中的品牌名称在被引用页面中根本找不到来源。
提出首词元提示行为探针，发现大模型许多闭卷事实问答错误源于无法生成正确的首词元，而仅提供该首词元即可让模型完成并识别出正确答案，说明大量错误来自可恢复的首步解码失败而非知识缺失。
作者用本地 LLM + MCP 工具构建了一个 ERP 问答系统，并加入基于 Claude 的验证拦截器，使准确率达到 99% 以上；他讨论人们是否能容忍 AI 偶尔出错，并思考为何人类对 AI 错误的容忍度低于人工。