标签
本文介绍了一种配对历史审计方法,用于评估AI记忆系统中上下文压缩的更新充分性,揭示了记忆现在回答正确但无法处理未来更新的故障。
本文证明,扩展时间点语言模型(仅基于每个日历日期之前可用的文本进行训练)可以显著缩小与无限制模型之间的性能差距,从而在金融和社会科学中实现有效的回测和因果推断。作者训练了多达40亿参数的仅解码器Transformer,使用1万亿按时间顺序过滤的token,并发布了完整流程。
本文介绍了MemStrata,一种维护时间有效性的检索记忆系统,用于消除AI代理在知识演化中的过时事实错误。它在演化基准测试上优于RAG,同时保持静态召回率,使用确定性替代层而无需LLM调用。