context-summarization

Pulsar Attention 用内容感知的摘要和注意力汇取代了Star Attention中的静态锚点，在长上下文基准测试中将FLOPs降低了3.3倍，同时超越了密集注意力。

本帖子分享了减少AI代理中Token使用的策略，包括提示缓存、上下文摘要、使用较小模型、修剪工具输出、子代理、RAG以及紧凑的系统提示。