redundant-computation

解释了KV缓存如何通过消除注意力键和值的冗余重计算来加速LLM推理，在速度与内存之间进行权衡，并介绍了生产级缓存管理挑战。