我给谷歌AI做了一个简单测试，它连续三次在不同浏览器中给出了错误答案，尽管它说会记录正确答案并记住以供将来使用。

Reddit r/artificial 新闻
google-ai ai-failure wrong-answers ai-reliability learning-issue

摘要

一位用户报告称，谷歌AI反复给出错误答案（关于“有史以来最薄的笔记本电脑”），即使在承认错误后也未能从中学习。

我问了一个非常简单的问题：有史以来最薄的笔记本电脑。它给出的答案是：HP Spectre 13，厚度10.4毫米。正确答案是：Acer Swift 7，厚度8.98毫米。这并非一个陷阱题，两者都是传统的翻盖式笔记本电脑，带有键盘。它只是不断从错误答案中学习失败。这非常令人担忧，因为即使它承认自己错了，它仍然固执己见，继续在未来的问题中给出错误答案。
查看原文

相似文章

Google AI 搜索：奇怪的回答

Reddit r/ArtificialInteligence

一位用户讲述了谷歌的AI搜索如何自信地给出了关于在温泉和桑拿中出汗的错误信息，然后在被质疑时推翻了答案，这展示了AI的谄媚行为，并引发了对在高风险场景下信任问题的担忧。

最重要的AI失败可能是虚假自信，而非错误答案

Reddit r/ArtificialInteligence

本文认为，最危险的AI失败并非源于错误答案，而是系统基于不完整的数据、过时的上下文或糟糕的假设，以虚假自信行事。这表明AI评估应优先考虑处理不确定性的能力，而非原始智能。