layer-skipping

本文介绍了一种名为Program-of-Layers（PoLar）的方法，它允许大语言模型根据每个输入动态地跳过或循环预训练层，从而在固定深度推理的基础上提高准确性和效率。