Tag
提出 Kronecker Product Attention (KPA)，用 Kronecker 积紧凑矩阵因子表示键值激活，实现最高 10× 的 KV 缓存压缩，同时在多个模型规模和基准上匹配或超越 TPA、MQA、GQA 和 MLA 等方法。