chunk-reuse

KVBoost 是一个块级键值缓存重用系统，用于高效大语言模型推理。它通过双哈希键控和偏差引导的重计算，实现高缓存命中率和首 token 时间的显著加速，且不损失质量。