MemoryOps AI 更新:从受治理记忆到生产加固、审计追踪与 API 安全边界

Reddit r/AI_Agents 工具

摘要

MemoryOps AI 是一个面向 AI 智能体的开源受治理记忆运行时,现已更新,新增上下文准入门、记忆使用追踪、删除血缘评估、审计追踪和 API 安全加固。作者讨论了诸如已删除记忆的有界无影响声明等治理挑战,并寻求社区对上下文门追踪和 API RBAC 边界的反馈。

我一直在继续开发 MemoryOps AI,这是一个面向长期运行的 AI 助手和智能体的开源受治理记忆运行时。 最初的目标很简单:大多数记忆演示都止步于:消息 → 向量数据库 → 稍后检索。但生产环境的智能体需要更强的控制: 什么会成为记忆 什么会进入上下文 什么影响了答案 什么必须被遗忘 什么证据能证明每个决策 什么不能跨越租户/用户/策略边界 自早期版本以来,项目已经发展了很多。近期的工作包括: 在记忆进入提示词之前的上下文准入门 显示哪些记忆影响了答案的记忆使用追踪 删除血缘与泄漏评估 召回/输出门 防篡改证据包 基准评分卡 SDK 与智能体框架示例 经过身份验证的 BFF 控制平面 工作进程心跳/重试/关闭加固 凭据与个人数据分类 拒绝不安全消融模式的生产护栏 更真实的就绪检查 反馈中的一个有用教训是,“已删除”和“无法影响输出”是不同的声明。因此,我正尝试更诚实地将删除定义为一种有界无影响声明:定义运行时边界,追踪可达的派生产物,使它们失效/被取代,并测试已删除的记忆不会通过声明的路径泄漏回去。 我正在探索的另一个方向是“门追踪”想法:检索候选 → 租户检查 → 同意/保留检查 → 敏感性检查 → 上下文准入 → 提示词包含 → 输出门 → 审计证据 目标是让运维/安全团队能够提问:“为什么这个上下文会到达模型?”并得到可解释的追踪,而不是信任黑盒。 下一个主要工作是 API RBAC / 端点授权,因为治理不能只存在于 Web 层。直接的 API 调用需要同样的租户、用户、角色和作用域边界。 我非常希望获得技术反馈: 受治理的记忆运行时在被信任之前应该证明什么? 你会如何为已删除的记忆定义一个公平的无影响声明? 上下文门追踪中应该出现什么? 记忆应该是顶层抽象,还是应该成为权威知识、研究、资产、执行状态和工具输出中的一个受治理上下文来源?
查看原文

相似文章

AI记忆应如何表现?

Reddit r/AI_Agents

对AI记忆系统现状的分析,认为焦点已从存储更多数据转向定义记忆应如何表现——涵盖治理、可观测性、生命周期管理和互操作性。