标签
C++26 引入了 std::indirect,这是一个词汇类型,为堆分配对象提供值语义和常量传播,是类成员中比 std::unique_ptr 更安全的替代方案。
一篇技术文章解释了垃圾回收的真实性能成本,对比了 Go、Java、Rust、Swift 和 Python 等语言中的跟踪式 GC、引用计数和编译期内存管理。
OasisKV是一个以内存为中心的LLM推理系统,通过使用来自推测解码的前瞻令牌预取稀疏且重要的KV块,将完整KV缓存存储与HBM解耦,与密集vLLM相比实现了高达2.1倍的吞吐量提升,且精度损失极小。
Raymond Chen explains how to use std::unique_ptr to manage a registration cookie in a fake agile wrapper, discussing integer-to-pointer round-tripping and the wil::unique_any alternative.
本文介绍了WorldTrace,一种无需训练的记忆框架,用于长时程视频世界模型,使压缩缓存保持可寻址;同时引入了LoopBench,一个用于在长时间绕行后进行情景回想的基准测试。它在LoopBench上将时间一致性提升了+15.5%,情景回想提升了+19.5%。
TencentDB Agent Memory 发布了 2.0.0 beta,引入 Team Memory——一个共享记忆中心,让 agent 和队友可以复用聊天、文档和代码资产。该仓库本周在 GitHub 的 TypeScript trending 上排名第一。
分享Codex的使用技巧:通过设置定时清理内存和缓存的prompt来避免占用过多内存,以及引用旧会话快速获取上下文节省token。
VerMem是一个用于LLM智能体的统一内存管理框架,利用局部和全局验证器结合强化学习,共同控制长期记忆和短期记忆。它在五个基准测试上优于强基线,并改善了效率-性能权衡。
AgentMemBench 是一个系统性基准,在三个数据集上评估对话式 AI 智能体的五种长期记忆管理策略,发现外部键值存储检索在质量上占优,但会带来更大的内存占用。
介绍 Memmy 这个开源 AI 记忆工具,它能跨工具记住项目、技能和业务流程图,并通过实际测试展示了找到本地项目、调用 Skills、接入业务 Agent 的能力,强调其让多个 AI 工具共享同一个工作记忆的核心理念。
一个项目声称可以通过从 NVMe SSD 流式加载专家权重并使用 MXFP4 压缩,在仅有 8GB 内存的 CPU 上运行拥有 2.78T 参数的 MoE 模型 Kimi K3,以速度换取内存效率。
Memmy 是一个开源项目,能统一扫描和管理 Codex、Claude Code 等常见 AI Agent 的对话记录与记忆,支持 Mac/Windows 和 TUI/CLI,让不同 Agent 共享上下文。
UniMem提出了一种自路由框架,结合了情景记忆与参数记忆用于LLM智能体,在无任务标签的边界无关任务流中实现自适应记忆管理。
ARC通过将仅追加存储与有界引用视图分离,提高了长上下文AI智能体的检索效率和准确率,实现了近乎完美的召回率,同时降低了延迟和带宽消耗。
MemOS 是一个为构建 LLM 应用和 AI 智能体的开发者提供的开源内存操作系统,通过统一的 API 提供持久化、可编辑的内存,支持多模态内存和异步摄入等特性。
oh-my-hermes 是 Hermes Agent 的一体化套件,增加了内存管理、编码编排、维基构建等功能,简化了代理工作流程,减少了对多个插件的需求。
一位开发者对 Rote 进行了基准测试,Rote 是一个浏览器代理的内存管理器,它发送页面差异而非完整重渲染,结果显示与 Browser Use 相比,令牌增长减少了 37%,但在短任务上存在权衡。
Go 1.26 将 Green Tea 设为默认垃圾回收器,提升了缓存友好性。本文通过 Go 和 C# 可视化堆分配,并讨论了非移动回收器和稀疏页面带来的挑战。
本文探讨了状态化与无状态化智能体设计在可扩展人工智能系统中的权衡,并提供了使用 Groq API 和 Llama 3.1 8B Instant 模型的实现示例。
讨论构建开放MCP记忆服务器以解决代理记忆的实际问题,指出哪些方面存在问题以及如何修复。