标签
本文提出PROBE,一种用于非凸下层双层优化的扰动梯度算法,通过二阶平稳性实现有限时间收敛,并在基于LLM的任务和元学习实验中超越现有最先进方法。
该论文提出了一种快速的贝叶斯优化方法,用于从头发现,通过利用潜在空间中的线性模型,实现了超过现有方法100倍以上的加速,同时保持性能。
该论文提出了一种联邦随机双层优化算法,仅使用一阶梯度以避免二阶矩阵计算,从而减少运行时间,并引入了一种新颖的学习率机制,通过实验进行了验证。
本文提出了一种'先收敛后多样化'的方法用于多目标贝叶斯优化,该方法将收敛与多样性解耦为两个阶段,展示了在紧缩评估预算和高维问题下性能的提升。