标签
本文介绍了 MiA-Signature，这是一种大语言模型（LLM）中全局激活模式的压缩表示，旨在提升长上下文理解能力。该方法提出使用基于次模性的选择策略来近似完整的激活状态，从而在检索增强生成（RAG）和智能体系统中带来性能提升。