标签
本文批判了评估递归语言模型的常规深度截断方法，并引入了深度控制协议（DCP）以解开并隔离影响深度利用的因素，从而提升评估精度。
RecurrentGPT引入了一种递归深度Transformer，它使用门控调制来迭代重用共享层，与标准Transformer相比，以更少的参数实现了竞争性的准确性并提高了内存效率。