标签
该论文证明每个 Transformer 块都可精确编译为由固定仿射映射、路由及 sigmoid/逆平方根等基本算子构成的通用深度神经网络，量化分析了去除激活-激活乘积的代价，并提出多智能体注意力聚类方法将打分复杂度从 N² 降至 Nk，实验在 DeiT-Tiny、MambaIRv2-Light 和 Pythia-70M 上验证了编译模型与原模型一致且标准后训练量化可直接适用。