population-of-models

本论文介绍了一种方法，它训练一组模型而非单个模型，在数据稀缺的情况下扩展多轮预训练时，能显著降低损失。