在研究中合乎道德地使用LLM的唯一方法是采用闭环LLM知识库。

Reddit r/artificial 产品
llm research knowledge-base closed-loop hallucination ethical-ai andrej-karpathy

摘要

文章认为，使用LLM进行研究需要一个闭环系统，如Karpathy的LLM Wiki或Recall AI知识库，以防止幻觉，确保所有输出都基于可信的源文档。

在研究中随意使用LLM的最大风险是其容易产生幻觉或捏造来源。Andrej Karpathy构建LLM Wiki的方法通过创建闭环系统解决了这个问题：模型仅基于你信任的原始源文档进行训练。这相当于为你自己的资料库提供了一个智能搜索引擎，将所有回答建立在可验证的文档之上。我一直在使用Recall（一个AI知识库）来轻松实现这种闭环检索系统。它确保当Claude回答我关于研究的问题时，严格基于我上传的PDF和论文。有人反对这种闭环方法对于高风险研究至关重要吗？
查看原文

相似文章

LLM的未来发展方向

Reddit r/artificial

文章讨论了为何LLM无法从用户交互中学习，且缺乏确定性的真值层，提出动态知识图谱可以减少幻觉并在医学等高风险领域提升性能。

LLM Wiki v2（16分钟阅读）

TLDR AI

本文介绍了一种利用LLM构建个人知识库的模式，为在大语言模型辅助下进行知识管理提供了结构化方法。

我与LLM共事的经验

Reddit r/ArtificialInteligence

一位具有编码背景的VP/PM分享了使用Claude Opus和Fable等LLM的实践经验，重点指出了模型在记忆、幻觉和原创性方面的局限，同时强调了人类直觉和领域专业知识不可替代的价值。