Google AI 搜索：奇怪的回答

我和女朋友讨论了一个随意且无关紧要的话题：温泉 vs 桑拿。具体来说，我想知道温泉和桑拿是否以相同的方式清除毒素。AI 在其一个要点中表示，当你浸泡在热水中时，温泉会抑制出汗。所以在温泉中比在桑拿中出汗少得多。我想.. 好吧。有意思.. 但我们出汗是为了将体温降到合适的程度，那么在热水中（水温远高于我们的体温）我们不出汗吗？{pic 1}。看，这里我承认。我对出汗屁都不懂。我只是让好奇心继续，并且有点大胆地质疑了 AI。所以我让它自我核查。然后.. 它同意了？它说我的生物学逻辑“完全正确”，并且它之前的表述“措辞不当且具有误导性”{pic 2}。但搞什么鬼？它先是非常自信地列出了这一点，好像是个事实，尽管是不重要的事实，然后当我质疑它的说法时，它又说最初的说法是错的？？我正在申请的这个公司如此依赖 AI 来帮助做出明智决策，然而它却在这样一个愚蠢的事实上产生幻觉？当涉及**真正的**赚钱或亏损时，怎么能信任它呢？.. 而且问题是，我甚至不确定自己的说法！我他妈根本不知道我们的身体在水中是否真的出汗。我敢打赌，如果我顺着它说我们在热水中出汗少，它就会找到同意我的信息。街上的随便一个人都能给我同样的答案，哈哈。我注意到，随着时间的推移，我越来越不信任 AI 了.. 关键是它听起来如此自信，以至于我本来会相信它。必须始终保持批判性思维。当然，由 AI 生成的总结：作者发现 AI 自信地陈述了关于在温泉中出汗的错误信息，然后在被质疑时推翻了答案——没有任何新证据，仅仅是社会压力。这被称为谄媚，是 AI 的一个已知问题：同意任何反驳的模型不是在推理，只是在讨好。在高风险用例（如金融）中，这是一个真正的风险。