@rohanpaul_ai: 谷歌新论文称LLMs应停止假装确定，而是清楚地表明不确定。幻觉…

谷歌最新论文指出，大型语言模型应停止假装确定性，转而清晰展示自身的不确定性。

“幻觉“的问题不在于机器会犯错，而在于机器在应该犹豫时却表现得过于确定。

这一区分改变了问题的核心目标。

该论文将目标从“让模型绝对正确“转向“让模型对自己的不确定性保持诚实“。

多年来，显而易见的目标一直是让语言模型掌握更多知识，从而减少事实性错误。

绝对的正确性或许极难实现，但一个能明确区分“我知道这个“和“我在猜测“的模型，依然能在不悄然破坏信任的前提下保持实用价值。

论文认为，更困难的缺失技能不是知识，而是自我认知。

一个模型可能在宏观上校准良好，知道类似答案的正确率约为60%，却仍无法识别出哪个具体答案存在风险。

这正是陷阱所在：为了消除错误，系统必须拒绝许多本可能正确的答案。

作者将这种现象称为“效用税“，它解释了为什么产品一再倾向于自信的实用性而非谨慎的真实性。

关键点在这里。

包裹在诚实不确定性中的错误答案，与以事实形式输出的错误答案，在社会语境上完全不同。

它给用户传达了不同的指令：请验证此信息，将其视为临时性的，不要过分依赖它。

论文提出的解决方案是“忠实的不确定性“，即模型的语言应反映其内部置信度，而不是将怀疑平滑为权威语气。

对于AI智能体而言，这一点更为重要，因为不确定性恰恰是决定何时搜索、何时信任某一来源、以及何时停止的关键。

工具扩展了模型可获取的范围，但元认知决定了这些获取是否被明智地使用。

论文链接 – arxiv. org/abs/2605.01428v1

论文标题：“幻觉破坏信任；元认知是前进之路”