关于一阶元学习算法

# 关于一阶元学习算法 来源：https://openai.com/index/on-first-order-meta-learning-algorithms/ ## 摘要 本论文研究了元学习问题，即存在一个任务分布，我们希望获得一个智能体，使其在面对从该分布中采样的前所未见的任务时表现良好（即学习快速）。我们分析了一系列算法，这些算法用于学习参数初始化，该初始化可以在新任务上快速微调，仅使用一阶导数进行元学习更新。该系列算法包括并推广了一阶 MAML，即通过忽略二阶导数得到的 MAML 近似。它还包括 Reptile，一种我们在此引入的新算法，该算法通过重复采样任务、在其上训练以及将初始化向该任务上的训练权重移动来工作。我们扩展了 Finn et al. 的成果，表明一阶元学习算法在一些公认的少样本分类基准上表现良好，并提供了旨在理解这些算法为何有效的理论分析。