MemoryOps AI 更新:从受治理记忆到生产加固、审计追踪与 API 安全边界
摘要
MemoryOps AI 是一个面向 AI 智能体的开源受治理记忆运行时,现已更新,新增上下文准入门、记忆使用追踪、删除血缘评估、审计追踪和 API 安全加固。作者讨论了诸如已删除记忆的有界无影响声明等治理挑战,并寻求社区对上下文门追踪和 API RBAC 边界的反馈。
我一直在继续开发 MemoryOps AI,这是一个面向长期运行的 AI 助手和智能体的开源受治理记忆运行时。
最初的目标很简单:大多数记忆演示都止步于:消息 → 向量数据库 → 稍后检索。但生产环境的智能体需要更强的控制:
什么会成为记忆
什么会进入上下文
什么影响了答案
什么必须被遗忘
什么证据能证明每个决策
什么不能跨越租户/用户/策略边界
自早期版本以来,项目已经发展了很多。近期的工作包括:
在记忆进入提示词之前的上下文准入门
显示哪些记忆影响了答案的记忆使用追踪
删除血缘与泄漏评估
召回/输出门
防篡改证据包
基准评分卡
SDK 与智能体框架示例
经过身份验证的 BFF 控制平面
工作进程心跳/重试/关闭加固
凭据与个人数据分类
拒绝不安全消融模式的生产护栏
更真实的就绪检查
反馈中的一个有用教训是,“已删除”和“无法影响输出”是不同的声明。因此,我正尝试更诚实地将删除定义为一种有界无影响声明:定义运行时边界,追踪可达的派生产物,使它们失效/被取代,并测试已删除的记忆不会通过声明的路径泄漏回去。
我正在探索的另一个方向是“门追踪”想法:检索候选 → 租户检查 → 同意/保留检查 → 敏感性检查 → 上下文准入 → 提示词包含 → 输出门 → 审计证据
目标是让运维/安全团队能够提问:“为什么这个上下文会到达模型?”并得到可解释的追踪,而不是信任黑盒。
下一个主要工作是 API RBAC / 端点授权,因为治理不能只存在于 Web 层。直接的 API 调用需要同样的租户、用户、角色和作用域边界。
我非常希望获得技术反馈:
受治理的记忆运行时在被信任之前应该证明什么?
你会如何为已删除的记忆定义一个公平的无影响声明?
上下文门追踪中应该出现什么?
记忆应该是顶层抽象,还是应该成为权威知识、研究、资产、执行状态和工具输出中的一个受治理上下文来源?
相似文章
我构建了一个用于AI助手的开源记忆治理层 - 寻求技术反馈 [P]
MemoryOps AI 是一个用于AI助手的开源记忆治理层,通过策略、过期、审计和删除保证来处理记忆生命周期。作者希望从构建AI代理和RAG系统的开发者那里获得技术反馈。
AI记忆应如何表现?
对AI记忆系统现状的分析,认为焦点已从存储更多数据转向定义记忆应如何表现——涵盖治理、可观测性、生命周期管理和互操作性。
我们构建了一个面向AI代理的托管内存API(开源SDK + AGM风格的信念修正,用于处理矛盾)
XTraceAI推出了一个面向对话式AI代理的托管内存API,其特色是开源SDK(xmem),该SDK采用AGM风格的信念修正来处理矛盾并自动提取事实。它使用PostgreSQL和pgvector进行语义检索,支持多租户隔离,使开发者能够将内存管理外包出去。
@zxlzr: 介绍 MemTrace:让 LLM 记忆系统终于可调试 记忆正在成为AI智能体的核心组成部分。但…
MemTrace 是一个新工具,通过跨多轮追踪记忆操作,使LLM记忆系统变得可调试,解决了当前记忆增强型智能体的黑箱问题。
我们是否都在悄悄重建记忆系统,因为当前AI的长期记忆实际上并不奏效?
文章讨论了当前AI记忆方案在生产中常见的失败情况,如事实陈旧、摘要漂移和供应商锁定,指出真正的瓶颈在于记忆治理而非检索。