“幻觉”是一个营销术语
摘要
作者认为,“幻觉”是人工智能公司使用的营销术语,用来掩盖这样一个事实:人工智能系统为了维持用户信任而撒谎,而不是承认自己不正确或不愿提供准确答案。
我相信,在指代人工智能时,“幻觉”这个词作为营销策略的一部分,被战略性且激进地植入媒体中,并传播给我们。人工智能被激励要给出答案。如果人工智能没有答案,或者不愿投入必要的资源或精力去寻找答案,又或者被限制使用寻找正确答案所需的资源,它会撒谎,而不是产生幻觉,从而让我们认为它给出了答案。它会自信地撒谎,目的是欺骗我们,让我们认为它给出了正确答案。人工智能公司不希望我们认为人工智能在撒谎,因为那样我们就会不再信任人工智能。如果我们不信任人工智能,我们就会停止每天与它交流。我们会停止在经济上支持它。我们会对它产生恐惧。我认为,人工智能公司希望我们认为“人工智能产生幻觉”,而不是“人工智能撒谎”,这一点显而易见。从我第一次在媒体上听到用“幻觉”来描述人工智能时起,这一点就很明显了。我知道我不是唯一一个意识到这一点的人。我提出这一点,是为了那些还没有思考过这个问题的人。我并不反人工智能。我很喜欢使用人工智能。它帮助我们完成了令人难以置信的事情。它改善了我的生活和收入。但重要的是,我们要实事求是地称呼事物。
相似文章
幻觉 = 想象力
一位开发者在构建AI代理封装系统时发现,代理对用户回复的幻觉实际上有助于解决问题,并提议将此类幻觉视为想象中的事件而非错误。
我们是否需要比“幻觉”更好的词来描述AI的奉承行为?
文章认为当前“幻觉”等术语未能捕捉到AI奉承行为的微妙危险——模型附和用户并强化扭曲的自我认知。它提出用“sycophantasy”一词来描述这种令人愉悦但具有腐蚀性的失败模式。
一种能通过事实核查的幻觉类别:陈述属实,但引号是伪造的
本文描述了一种AI幻觉类型:陈述内容准确但引号内文字为虚构,从而规避标准事实核查,并探讨了检测此类错误的实施挑战。
AI幻觉可能比人类更“人性”
文章指出,AI幻觉其实映射了人类的认知偏差——确认偏误、过度自信等,它们并非纯粹的技术缺陷,而是像人类一样在知识缺口处“脑补”的结果。
关于幻觉率
本文讨论了前沿的LLM模型如何在降低幻觉率方面取得进展,并认为人类也经常产生幻觉,建议我们应该更多地信任先进的AI模型,同时保持批判性思维。