大多数人都以错误的方式使用AI进行研究,如果我们不找到解决方案,可能会毁掉未来几代人

Reddit r/ArtificialInteligence 新闻

摘要

一篇评论文章指出,当前如Perplexity和Gemini等AI研究工具因幻觉而产生缺陷,主张使用AI配合经过精选的、隔离的可信书籍知识库,以确保基于事实的真相,并防止扭曲的世界观伤害未来几代人。

在Perplexity和Gemini上进行研究实际上是一种非常糟糕的深度研究方法,因为许多幻觉很容易渗透到答案中。除非你非常熟悉该主题,否则很难注意到这种问题的严重性。你真正需要的是能够将数百本真实可信的关于该主题的书籍上传到一个与外界隔离的AI中。这可以确保它严格依据所拥有的书籍事实,同时让你能够在不需要大量专业知识的情况下,更深入地研究你正在探索的课题。而且,如果你通过知识库添加你的故事世界和关系结构,你就可以有效绕过繁重的研究,让AI将非虚构作品中的相关信息注入到你已创建的节奏中。这样做为我节省了一年多的研究时间,并带来了极深的层次感,这与从GPT或Gemini获得的任何东西都有本质区别。很多人现在并不理解AI有多强大,因为大多数应用程序未能提供真正的价值。它们的整个商业模式都建立在20世纪的范式之上。但当你找到那些真正处于这些变革前沿的工具时,你会感到震撼。我很高兴我和其他人正在思考这个问题,因为如果我们不这样做,越来越多的人将接受被严重扭曲的现实观,并在更大范围内变得可接受。如果我们的世界观如此扭曲,我们如何能期望建立一个我们想要居住的、能让日常生活正常运转的、团结一致的未来?我们需要基于事实的真相。这比我们意识到的要重要一千倍。没有它,我们作为物种注定会失败。
查看原文

相似文章

AI研究工具仍过于热衷将公开信号转化为确定性

Reddit r/artificial

作者批评AI研究工具对微弱信号过于自信,赞扬Komo AI的快速发现和附带来源的摘要,但强调需要更好地处理不确定性和矛盾。他们描述了一种工作流程,将发现、验证和结构化检查分散到多个AI工具中。

我们关注错了问题!

Reddit r/artificial

作者认为,AI的真正危险不在于AI本身,而在于企业和政府可能利用它进行监控和行为控制,并倡导去中心化的开源替代方案。

AI幻觉可能比人类更“人性”

Reddit r/artificial

文章指出,AI幻觉其实映射了人类的认知偏差——确认偏误、过度自信等,它们并非纯粹的技术缺陷,而是像人类一样在知识缺口处“脑补”的结果。