标签
一位开发者分享了他们使用 Anthropic SDK 和 TypeScript 构建具有记忆功能的 AI 智能体的经验，解释了工作记忆、情景记忆、语义记忆和程序记忆之间的区别，以及为生产环境扩展记忆所面临的挑战。
程序性记忆蒸馏（PMD）将来自强化学习 rollout 的跨回合信号转化为可复用的程序性记忆，并在训练过程中将其蒸馏到策略权重中，从而在推理时无需记忆即可实现自我改进语言模型。实验表明，PMD 在 SCIKNOWEVAL 上比 SDPO 提升 3.8-5.5%，在 LIVECODEBENCH 上提升 7.9-13.6%。
本文介绍了神经程序性记忆（Neural Procedural Memory，NPM），这是一种无需训练的框架，通过从对比历史经验中提炼的激活引导向量来存储程序性技能，使得LLM智能体能够在不依赖纯文本指令的情况下执行技能。
介绍了AFTER，一个包含382个企业任务的基准，用于评估LLM智能体中的程序性记忆，表明技能迁移能提升跨任务、角色和模型骨干的性能，部分技能广泛泛化，而另一些则专业化。