让我们终结上下文窗口、RAG 和技能文件。
摘要
作者描述了一个后端代理记忆系统,该系统输出嵌入状态参数而非自然语言块,使用GGUF适配器与qwen3模型。它采用双垂直图和密码进行实时记忆集成,有可能消除对上下文窗口、RAG和工具模式的需求。
我一直致力于一个后端代理记忆系统,但其工作原理使得输出嵌入状态参数而非自然语言记忆块(RAG)成为可能。通过使用GGUF适配器和0.6b的qwen3,我能够让系统输出合理的句子,这些句子直接反映了系统从正常操作中形成的实际概念节点和关系。昨天,我可能会嘲笑这篇文章,但今天早上当我测试适配器时……是的,没有发送自然语言提示给LLM,它仍然输出相当准确的句子。这确实是一个相当聪明的小系统,它使用双垂直图和双密码在每次输入和输出时自动交叉引用内部关系。这意味着它不需要存储静态记忆然后运行额外的步骤来执行整合,记忆是实时存储并实时影响推理路径的。根据这个系统的运作方式,理论上,它应该能够在没有任何外部缓存(上下文窗口)的情况下维持对话,它不用自然语言提示LLM,所以没有RAG,并且可操作的输出可以直接在系统级别路由,所以不需要工具模式,不需要LLM工具调用。LLM根本不是一个认知引擎,它只是说话/语言中心。我对这个构建及其潜力感到非常兴奋。如果你对AI代理和记忆系统感兴趣,请查看并考虑合作。如果我没有觉得这些说法至少有一些现实依据,我不会做出这些断言。链接在评论中谢谢大家!
相似文章
@N01ennn: 更大的上下文窗口是死路一条。这篇论文证明了这一点。一项新的CS调查悄然重新定义了整个游戏:事情…
一条推文重点介绍了一篇CS调查论文,该论文认为更大的上下文窗口是死路一条,而记忆工程——将智能体的记忆视为操作系统——才是将真正的AI智能体与自动补全区分开来的关键,使无状态模型能够自我进化。
我为代码智能体构建了一个上下文窗口优化框架——开源 + 论文
作者介绍了“Apohara Context Forge”,这是一个开源框架及方法论,旨在通过角色感知分割和分层相关性评分来优化代码智能体的上下文窗口。
我是如何解决持续运行的Anthropic智能体循环中上下文窗口膨胀问题的(Opus + Sonnet架构)
一位开发者分享了一种架构模式,用于管理持续运行的Anthropic智能体循环中的上下文窗口膨胀问题,采用KV缓存、动态工具模式加载,以及通过Claude 3.5 Sonnet和Claude 3 Opus解耦执行器与顾问角色。
经过一年构建智能体记忆,我确信“保存所有内容 + RAG”是错误默认方案
文章认为智能体记忆的默认方法(保存所有消息并使用 RAG)由于缺乏抑制、身份和关系追踪而失败,并提议改用轻量级时序知识图谱来建模用户的世界。
@lateinteraction: 智能体通常将部分上下文外部化:在编码智能体中的仓库,在RAG中的语料库,以及在RLM中的用户提示。N…
Joshua Gu的新研究表明,AI智能体在管理其上下文窗口中的一个小缓冲区作为外部上下文的缓存时表现更好,这挑战了将上下文完全推出提示符的常见做法。