memory-augmented-models

本文介绍了 Mela，这是一种受人类记忆巩固机制启发的、增强记忆的 Transformer 架构，其核心特征为层级记忆模块（HMM），能够有效提升长上下文语言建模的性能。