标签
本文提出了一种数据驱动的本构建模框架,使用带有因果注意力的神经算子来预测路径依赖材料的应力响应,重点关注塑性和损伤,实现准确且可并行化的预测。
本文识别了神经网络中由各向异性引起的可塑性损失,并提出了SingularClip,一种通过裁剪奇异值来维持持续学习和强化学习中可塑性的方法。
本文提出可学习的小波激活函数来应对持续学习中的可塑性损失,将激活分解为低频和高频分量,并采用动态注入与正则化,在多个基准上取得了最先进的结果。
This paper introduces NeuMoSync, a novel architecture that integrates neuron-specific neuromodulatory signals into deep neural networks to improve plasticity and adaptability in continual learning, demonstrating strong performance across multiple benchmarks.
介绍了局部冗余,这是一种基于通用压缩理论推导出的神经网络可塑性的信息论度量,并表明它比现有启发式方法能更好地预测下游性能。
Zyphra 分享了他们在大型语言模型持续学习方面的首项工作,研究模型是否能够从新数据中持续学习,并推导出在高达70亿参数的扩展实验中塑性丧失开始的缩放定律。