标签
本文介绍了自组织数字电路,使用拓扑掩码Transformer配置布尔门中的查找表,使电路能够围绕硬件故障自组装和自修复。它展示了对软错误近乎完美的恢复能力,以及向更大规模电路泛化的能力,将生物自组织与数字硬件弹性连接起来。
MetaKoopman提出了一种贝叶斯元学习框架,通过Koopman算子利用线性潜在表示对非线性动力学进行建模,支持闭式更新和不确定性量化。该框架在恶劣冬季条件下的自动驾驶卡车-拖车系统上得到验证,在预测准确性和鲁棒性方面优于先前方法。
MeRLa 是一个用于 RLHF 的元学习奖励塑造框架,通过学习任务特定的塑造函数来改善对齐,在多个基准上取得了最先进的结果,并显著降低了训练不稳定性。
本文研究使用符号回归发现显式神经网络权重更新规则,这些规则在小型符号回归基准上优于标准手工设计的优化器,在30个基准/网络组合中的25个上实现了44.47%的聚合MSE降低。
本文介绍了随机元遗忘(SMU),这是一个双层框架,利用VLM级反馈为语言骨干学习一个可进行遗忘的初始化,在多模态遗忘中实现更好的遗忘-保留权衡。
研究人员展示了AIDE²,这是一个具有递归自动研究循环的系统,在超过100次迭代中改进了自己的代码,发现了七项改进,并在保留的基准测试上击败了手动调优的智能体。
一位开发者构建了一个管道,其中经过强化学习训练的AI智能体创建并提交针对小模型的强化学习训练任务,并根据智能体的表现给予奖励。该项目完全开源,并展示了向保留任务的迁移能力。
SMETA-ZSL 提出了一种利用语义元对齐和对比微调进行广义零样本威胁分类的方法,在7个基准测试中平均超过先前方法10.8个百分点。
本文针对噪声偏好标签下的直接偏好优化,提出了一种双层优化框架,引入了一种无元数据的元加权方法,该方法使用中心差分近似和LoRA微调来提高对齐性能。
一篇讨论帖,质疑AI中持续学习的定义和要求,引用了Dario Amodei和Demis Hassabis近期关于其对通用人工智能(AGI)重要性的言论。
本文介绍了元神经细胞自动机(MetaNCA),这是一个学习局部更新规则以自组织神经网络权重而无须反向传播的框架,在MNIST和CIFAR-100上可扩展到200万参数的网络,并能泛化到未见过的架构。
提出了高效长时域优化(ELO)学习,一种元训练算法,它将计算重新分配给更长的时域,并使用解耦的渐进式专家监督,提高了学习优化器在长展开任务和分布外泛化上的性能。ELO-Celo2在语言建模任务上持续优于AdamW,并与Muon性能相当。
提出一种无标签数据的元学习方法,通过将预训练模型的软标签分配给未标注数据来生成任务,避免了计算昂贵的模型逆推。与最先进的DFML方法相比,实现了高达104倍的加速和8.4%-36.4%的准确率提升。
本文提出了PhyMRI-SR,一种物理感知的MRI超分辨率方法,它利用高斯溅射和物理约束建模来动态调整分辨率-SNR配置,实现了最先进的性能。
介绍MetaFlow,一种通过结合监督微调和带执行反馈的强化学习来训练大语言模型为零样本任务生成工作流的方法,实现对未训练任务和算子集的强大泛化能力。
本文介绍了一个面向任意时有效认证鲁棒性的元学习框架,该框架使用序列E过程自适应分配计算资源,与传统的随机平滑方法相比,样本复杂度降低了20倍,同时保持了严格的统计保证。
介绍了 Autodata,一种让 AI 代理扮演数据科学家以创建高质量合成训练数据的方法,在计算机科学、法律和数学推理任务上展示了优于经典方法的效果。
提出了一种分层贝叶斯框架,用于从多个稀疏、含噪声的数据集中对动力系统进行元学习,利用基于梯度的MCMC与嵌入的ODE求解器,对共享参数和数据集特定参数进行高效的后验推断。
提出了一种名为MEDIC的新型元学习策略,用于开放集域泛化,该策略通过域和类别划分间的隐式梯度匹配来实现更优的边界。实验表明其性能达到最先进水平。