标签
CoRe-Stack+ 是一种元学习管道,通过过滤冗余和增强校准来改进深度堆叠泛化,在视觉基准测试中实现更好的准确性和效率。
本文提出了一种用于图少样本类增量学习的轻量级可塑性记忆框架,该框架使用一种演化的微聚类结构和元学习,以在有限数据下平衡知识保留和对新类别的适应性。
本文提出Self-Meta-Evolve层次化框架,可针对企业信息抽取任务为每个用户定制提示词,通过交互反馈持续优化来提升抽取性能。
本文提出使用图超网络来显式表示偏微分方程(PDEs)中的关系,以分摊物理信息神经网络(PINNs),在求解耦合系统时展现出更高的准确性。
ALPINE 介绍了一种超轻量级的空间关系架构,用于小样本图像分类,与基线模型如 Prototypical Networks 和 MAML 相比,它用更少的参数实现了精度提升,收敛更快,鲁棒性更好。
本文介绍CLAW,一种使用超网络生成世界模型低秩适配器的方法,能够在有限的测试时数据下实现基于模型的强化学习中的高效在线适应。
本文开发了NTK-KIP、MetaQuill和MetaQuill-KIP算法,以改善从稀疏观测中重建神经场,使基于神经切向核(NTK)的神经场变得非线性和元可学习,从而实现高效的少样本适应。
本文表明,用于个性化冻结大语言模型的提示空间元学习在不同用户间无法迁移,因为元验证目标对用户与支持的对应关系在统计上不变,导致相比种子提示或控制组无显著改进。
从头训练了一个小型Transformer模型,仅花费0.67美元就在ARC-AGI-1基准测试上实现了44%的准确率,在速度、准确性和成本效益方面均优于先前方法。
本文应用元学习和预训练来改进神经刺激响应建模,减少灾难性预测失败,并在非人灵长类动物研究中提高预测准确性。
本文介绍了动态影响加权(DIW),一种知识蒸馏方法,通过在训练过程中动态加权来自多个IMU的教师目标,来改进单IMU活动识别,实现了显著的性能提升。
论文探讨了是否任何神经网络都可以被重新设计以通过梯度下降有效训练,并证明了一个通用性结果:对于任何网络,都存在一个扩展,可以通过梯度下降重现给定的权重和输出。
iFuzz-Meta 是一个可解释的模糊学习框架,它结合自上而下的知识集成与自下而上的数据驱动适应,以增强神经模型的透明度和泛化能力。
本文介绍了自组织数字电路,使用拓扑掩码Transformer配置布尔门中的查找表,使电路能够围绕硬件故障自组装和自修复。它展示了对软错误近乎完美的恢复能力,以及向更大规模电路泛化的能力,将生物自组织与数字硬件弹性连接起来。
MetaKoopman提出了一种贝叶斯元学习框架,通过Koopman算子利用线性潜在表示对非线性动力学进行建模,支持闭式更新和不确定性量化。该框架在恶劣冬季条件下的自动驾驶卡车-拖车系统上得到验证,在预测准确性和鲁棒性方面优于先前方法。
MeRLa 是一个用于 RLHF 的元学习奖励塑造框架,通过学习任务特定的塑造函数来改善对齐,在多个基准上取得了最先进的结果,并显著降低了训练不稳定性。
本文研究使用符号回归发现显式神经网络权重更新规则,这些规则在小型符号回归基准上优于标准手工设计的优化器,在30个基准/网络组合中的25个上实现了44.47%的聚合MSE降低。
本文介绍了随机元遗忘(SMU),这是一个双层框架,利用VLM级反馈为语言骨干学习一个可进行遗忘的初始化,在多模态遗忘中实现更好的遗忘-保留权衡。
研究人员展示了AIDE²,这是一个具有递归自动研究循环的系统,在超过100次迭代中改进了自己的代码,发现了七项改进,并在保留的基准测试上击败了手动调优的智能体。
一位开发者构建了一个管道,其中经过强化学习训练的AI智能体创建并提交针对小模型的强化学习训练任务,并根据智能体的表现给予奖励。该项目完全开源,并展示了向保留任务的迁移能力。