gated-deltanet-2

介绍了用于线性注意力模型的查询派生擦除方向（QED），以提升检索性能并将可用上下文长度大约加倍，在S-NIAH-1基准测试中得到验证。