AI不准确性仍存的一个绝佳实例
摘要
本文通过一个案例说明了AI的不准确性,即由于网络上的持续错误,Google Gemini提供了关于Chevy Chase子女的不正确信息,突显了AI传播错误信息的担忧。
这并非AI独有,但我认为AI加剧了这类问题。搜索‘Chevy Chase有几个孩子’,Gemini会告诉你四个。深入查看网页结果,你会发现第四个孩子(所谓的同父异母兄弟)实际上是一个维基百科恶作剧的错误结果。一些低质量(可能主要由AI撰写)的文章传播了关于第四个孩子的故事。但任何人都能迅速弄清真相。即使最初的维基百科谎言已被删除,互联网仍在持续传播这个错误。Gemini没有充分重视那些表明这不是真的合法来源,却不知何故依赖于非常低质量(同样可能由AI撰写)的来源说这是真的。显然,这是一个风险很低的错误,但它确实让我担心AI生成的低质内容会不断引用自身,互联网上的错误信息会越来越多。
相似文章
Gemini 为何还会犯这种错误?
这篇文章质疑为什么谷歌的 Gemini AI 模型仍然会出现明显的错误,探讨了其训练或部署中可能存在的问题。
Full Fact 分析显示 AI 聊天机器人散布关于 AI 生成图像、战争和王室纷争的错误信息
Full Fact 的分析表明,AI 聊天机器人如 ChatGPT、Gemini 和 Grok 在处理虚假信息时常常输出错误内容,涉及人工智能生成的图像和战争等话题,从而凸显其作为事实核查工具的不可靠性。
错误信息的洪流 - 我刚经历的一次真实对话
一名用户批评Google AI提供相互矛盾的错误信息,这引发了对其AI准确性系统性问题的承认和道歉回应。
AI经常连非常基础的事实都弄错。模型关注的是平均值——而不是精确答案
用户报告称,AI模型Gemini和Claude在旅行中提供了错误的公交时刻表信息,这些模型承认它们给出的是近似答案而非精确事实,这凸显了可靠性问题。
Gemini与AI幻觉
讨论Google Gemini模型中的AI幻觉问题,突出大型语言模型在可靠性和准确性方面的挑战。