von-neumann-architecture

本文介绍Von-Neumann State-Space Transformer (VN-SST)，这是一种受冯·诺依曼架构启发的新模型，通过使用低秩指令库进行特定于令牌的操作，提高了神经解码中的样本效率，在基准测试中优于标准Transformer。