标签
介绍了半直接傅里叶Delta注意力(SFDA),一种相位控制的Delta规则层,它通过块旋转傅里叶控制算子扩展了Kimi Delta注意力,提供了构造性Chunk-WY定理以实现高效的分块计算,并展示了在循环记忆和寄存器记忆上的表达能力。