标签
一篇汇总帖:多套中文玄学/术数(八字、奇门遁甲、紫微斗数、风水、塔罗等)被工程化为 Claude Code / Codex 的 AI Skill 仓库,通过 References 和外部脚本做确定性排盘,以减少模型幻觉。
GauntletScore 是一个可审计的证据引擎,它将由独立 LLM 阅读器回答的类型化问题与固定的贝叶斯规则相结合,以核验主张,在 LLM-AggreFact 上达到了 79.51 的平衡准确率——与已发表的最佳核验系统持平,同时记录每项判定背后的证据。
作者分享放弃用 ChatGPT 做严肃研究、转而将 100+ 技术论文迁入 Google NotebookLM 后的四条反直觉经验:限制开放网络可减少幻觉、跨源交叉验证优于线性阅读、文档需分层分类管理,以及 Audio Overviews 的意外价值。
作者提出 LLM 幻觉源于 RLHF 强制模型在 Token 1 无条件承诺(Promise),导致生成过程中无法反悔只能编造 API;建议用 Winograd/Flores 对话行动状态机的『Zero-Shot Flores Handshake』显式授权模型先反问或拒绝,再生成代码。
由 Monica Lam 团队主导的 Stanford CS224V "Agentic AI" 课程,构建了一套防幻觉知识栈,涵盖 RAG、知识策展(STORM)、形式化方法和元智能体,旨在将不可靠的 LLM 转变为可信、可追责的智能体。前两次课的讲义现已公开。
This paper proposes NxN E-valuation, an e-value-based hypothesis certification algorithm that uses a large training set to let samples serve as null hypotheses for one another, enabling conditional randomization tests to certify LLM-proposed hypotheses without bespoke statistical procedures.
本文提出了Grounded Optimization,一个五层框架,用于减少自动个人文档重写中的LLM幻觉。实验表明,在各种模型和温度设置下,幻觉率显著降低。
arXiv宣布,对论文中包含未经核查的LLM生成错误(如虚假参考文献)的作者实施一年禁令,强调无论内容生成方式如何,作者均需对全部内容负责。
Marc Andreessen 在分享一个自定义 AI 提示词后遭到网友嘲讽,该提示词暴露出他对大型语言模型的工作原理存在根本性误解,尤其是在幻觉和知识限制方面。
银联研究人员提出 SCG-MEM,一种模式约束的生成式记忆架构,通过强制 LLM 仅在动态认知模式内解码有效记忆键,消除结构性幻觉,在 LoCoMo 基准上全面超越稠密检索基线。
本论文探究了在新知识上微调LLM如何诱导事实幻觉,研究表明特定知识类型内的陌生性通过削弱对关键实体的注意力来驱动幻觉。作者提议通过在后期训练阶段重新引入已知知识来缓解这一问题。
本文质疑了大语言模型能够通过内部信号可靠区分幻觉输出和事实输出的假设,论证内部状态主要反映知识回忆而非真实性。作者提出了一套幻觉分类法(相关性幻觉与非相关性幻觉),并证明相关性幻觉的隐藏状态几何特性与事实输出重叠,使得标准检测方法失效。