标签
作者描述了一个后端代理记忆系统,该系统输出嵌入状态参数而非自然语言块,使用GGUF适配器与qwen3模型。它采用双垂直图和密码进行实时记忆集成,有可能消除对上下文窗口、RAG和工具模式的需求。
MIT CSAIL研究人员提出了一种新颖的AI记忆方法,通过将文档存储在外部,并让AI自行导航和查询,从而避免了上下文腐烂,以更低成本实现了1000万令牌的有效上下文。
Arkon 是一款新工具,通过 MCP 与 Claude 集成,为组织提供集中化的知识管理和细粒度的访问控制,以 LLM 生成的 Wiki 层取代手动复制上下文的操作。
本文介绍了 WiCER,这是一种将领域知识编译到 LLM Wiki 系统中的迭代算法,旨在最大限度地减少知识蒸馏过程中的信息丢失和灾难性失败率。研究表明,与盲编译方法相比,该方法通过更好地保留关键事实,改进了全上下文 KV 缓存推理的效果。
SDSR 提出轻量级自描述结构化数据,并辅以双层引导,利用 LLM 的首位偏差,在无向量数据库的情况下实现 100% 路由准确率。