标签
本文证明Optuna的约束树形帕森估计器(TPE)是c-TPE算法的联合密度推广,展示了其对约束重复的不变性,而独立的c-TPE则会退化。作者概述了实际权衡以及未来研究方向。
本文提出一种基于差分进化的张量潜在因子自动超参数优化框架,以提高大规模动态加权有向网络的预测精度,减少手动调参需求。
本文提出了一种适用于预算受限微预训练的分阶段因子筛选工作流,表明短期的设计实验能够识别稳定的超参数惩罚方向,并支持“筛选-优化”策略。
本文介绍了一种自动研究框架,利用专家代理通过代码执行与反馈的经验闭环,迭代优化训练配方。该系统借助谱系反馈(lineage feedback),无需人工干预,即可在 Parameter Golf 和 NanoChat 等任务上自主提升性能。