Memoria 1.0.0 — 面向 LLM 的本地化、模型无关记忆系统

Reddit r/LocalLLaMA 工具

摘要

作者发布了 Memoria 1.0.0,这是一个本地优先、模型无关的记忆系统,可用于 LLM 应用,无需 GPU 或云端 API 密钥即可运行。在 Intel Celeron N4020(3.7 GiB 内存)上进行基准测试,该系统在 LongMemEval-S 上采用并行的 FAISS、BM25、图检索、短语匹配、属性检索和时间检索,并结合多信号排序,取得了 89.8% 的 Recall@1 和 99.6% 的 Recall@50,可通过 PyPI 安装。

我做这个东西已经很久了,今晚终于发布了 Memoria 1.0.0。我之所以构建它,是因为我真的想使用它。我想要一个真正的记忆层,用于本地 LLM 应用,不依赖特定模型、云服务或 API 密钥。Memoria 是本地优先且与 LLM 无关的,它甚至可以在完全没有 LLM 的情况下运行。我用来构建和测试它的机器并不算出色:一台 Intel Celeron N4020,主频 1.10 GHz,可用内存约 3.7 GiB,没有 GPU,运行 Debian Linux。在 LongMemEval-S 上,470 个可评测的检索问题中有 468 个成功返回了结果。Recall@1 为 89.8%,Recall@5 为 97.9%,Recall@10 为 98.9%,Recall@50 为 99.6%。Session NDCG@10 为 0.9257。整个 LongMemEval 工作负载的峰值 RSS 为 2.65 GiB,单个查询的平均峰值 RSS 约为 580 MiB。它的检索系统并不是简单地把所有东西都塞进向量数据库。Memoria 并行运行 FAISS、BM25、图检索、短语匹配、属性检索和时间检索,然后对这些信号进行融合,再通过多信号排序。时间检索也是独立实现的,这样我可以单独测量它并进行消融实验,而不是把它硬编码在基础检索路径里。它已经可用了,但仍在积极开发中。这次发布中还有不少其他东西:GitHub 仓库摄取、Obsidian 库摄取、MCP 支持、CLI、TUI、GUI 和 API、持久化本地存储、LongMemEval 和 LoCoMo 基准测试工具,以及一个包含 11 个子系统和 34 个钩子的插件系统。现在还有一个交互式插件生成器。而且它确实可以安装了:bash pip install kitzkatz-memoria GitHub:https://github.com/Kitzkatz/memoria 文档:https://kitzkatz.github.io/memoria/ PyPI:https://pypi.org/project/kitzkatz-memoria/ 我不会干等着一个完美的时机再发布。这就是 1.0.0。如果你正在做本地 Agent 或本地 LLM 应用,我真心想听听你的看法,也欢迎任何反馈。请尽管来折腾它
查看原文

相似文章

在 LongMemEval-S 上对智能体记忆检索进行基准测试 — Recall@5 达 98%,R@23 实现 100% 召回,仅依赖本地嵌入模型 (all-MiniLM-L6-v2),无需 LLM 与 API Key

Reddit r/AI_Agents

作者分享了用于智能体记忆的 Python 库 memweave 的基准测试结果,该库仅使用本地嵌入且无需调用 LLM,便在 LongMemEval-S 上实现了 98% 的 Recall@5。本文详细介绍了实现方法,并与 mempalace 进行了性能对比,突出了其在不同问题类型上稳定的检索表现。

MemPalace/mempalace

GitHub Trending (daily)

MemPalace 是一款本地优先的开源 AI 记忆工具,能够逐字存储对话历史,并通过语义搜索进行检索,在 LongMemEval 上达到 96.6% R@5,无需任何 API 调用或 LLM。它采用可插拔后端架构,提供 CLI 界面,支持 Claude Code、Gemini CLI 以及 MCP 兼容工具。