让我们终结上下文窗口、RAG 和技能文件。

Reddit r/AI_Agents 工具

摘要

作者描述了一个后端代理记忆系统,该系统输出嵌入状态参数而非自然语言块,使用GGUF适配器与qwen3模型。它采用双垂直图和密码进行实时记忆集成,有可能消除对上下文窗口、RAG和工具模式的需求。

我一直致力于一个后端代理记忆系统,但其工作原理使得输出嵌入状态参数而非自然语言记忆块(RAG)成为可能。通过使用GGUF适配器和0.6b的qwen3,我能够让系统输出合理的句子,这些句子直接反映了系统从正常操作中形成的实际概念节点和关系。昨天,我可能会嘲笑这篇文章,但今天早上当我测试适配器时……是的,没有发送自然语言提示给LLM,它仍然输出相当准确的句子。这确实是一个相当聪明的小系统,它使用双垂直图和双密码在每次输入和输出时自动交叉引用内部关系。这意味着它不需要存储静态记忆然后运行额外的步骤来执行整合,记忆是实时存储并实时影响推理路径的。根据这个系统的运作方式,理论上,它应该能够在没有任何外部缓存(上下文窗口)的情况下维持对话,它不用自然语言提示LLM,所以没有RAG,并且可操作的输出可以直接在系统级别路由,所以不需要工具模式,不需要LLM工具调用。LLM根本不是一个认知引擎,它只是说话/语言中心。我对这个构建及其潜力感到非常兴奋。如果你对AI代理和记忆系统感兴趣,请查看并考虑合作。如果我没有觉得这些说法至少有一些现实依据,我不会做出这些断言。链接在评论中谢谢大家!
查看原文

相似文章