标签
该线程探讨了大脑的双重记忆系统（海马体和新皮层）为构建长期运行的AI智能体提供的启示，指出智能体需要快速的情景捕获机制和缓慢的巩固机制来避免灾难性干扰，而不是仅仅依赖带有临时支撑结构的冻结模型。
HOLA（海马体线性注意力）受海马记忆启发，通过一个有界的精确KV缓存增强线性注意力，在不牺牲效率的情况下改善长程召回和困惑度。在340M参数规模下，它在Wikitext上优于全注意力Transformer，并在高达32k token的范围内实现稳健的针召回。
Auto-Dreamer 提出了一种针对语言代理的离线记忆整合学习方法，将快速记忆获取与慢速跨会话整合解耦，以更小的记忆库实现更高性能，并泛化到未见环境。
介绍了Cognifold，一种受大脑启发的、用于LLM代理的始终在线主动记忆，它通过图拓扑自组织将碎片化的事件流持续组织成自涌现的认知结构，并通过前额叶意图层扩展了互补学习系统理论。