needle-in-a-haystack

本文介绍了HOLA，一种为快速AI模型（如线性注意力和状态空间模型）提供额外记忆缓存以存储令人惊讶的事实的方法，在不牺牲速度的情况下提高了它们在长上下文任务中的回忆能力。