plasticity

标签

Cards List
#plasticity

用于可塑性的贝尔曼最优方程

arXiv cs.LG · 3天前 缓存

本文提出了一种贝尔曼最优方程,用于在持续强化学习中优化可塑性,将稳定性-可塑性权衡构建为赋能-可塑性权衡。

0 人收藏 0 人点赞
#plasticity

通过神经算子和因果注意力学习材料的本构行为:塑性与损伤案例研究

arXiv cs.LG · 2026-09-03 缓存

本文提出了一种数据驱动的本构建模框架,使用带有因果注意力的神经算子来预测路径依赖材料的应力响应,重点关注塑性和损伤,实现准确且可并行化的预测。

0 人收藏 0 人点赞
#plasticity

SingularClip: 防止谱崩溃以维持持续学习和强化学习中的可塑性

arXiv cs.LG · 2026-08-20 缓存

本文识别了神经网络中由各向异性引起的可塑性损失,并提出了SingularClip,一种通过裁剪奇异值来维持持续学习和强化学习中可塑性的方法。

0 人收藏 0 人点赞
#plasticity

在持续学习中通过可学习小波激活维持可塑性

arXiv cs.LG · 2026-08-14 缓存

本文提出可学习的小波激活函数来应对持续学习中的可塑性损失,将激活分解为低频和高频分量,并采用动态注入与正则化,在多个基准上取得了最先进的结果。

0 人收藏 0 人点赞
#plasticity

NeuMoSync: End-to-End Neuromodulatory Control for Plasticity and Adaptability in Continual Learning

arXiv cs.AI · 2026-08-06 缓存

This paper introduces NeuMoSync, a novel architecture that integrates neuron-specific neuromodulatory signals into deep neural networks to improve plasticity and adaptability in continual learning, demonstrating strong performance across multiple benchmarks.

0 人收藏 0 人点赞
#plasticity

局部冗余:一种源自合成记忆化的可塑性信息论度量

arXiv cs.LG · 2026-07-16 缓存

介绍了局部冗余,这是一种基于通用压缩理论推导出的神经网络可塑性的信息论度量,并表明它比现有启发式方法能更好地预测下游性能。

0 人收藏 0 人点赞
#plasticity

@neural_avb: 给他们一大笔钱,这样他们就能进行这些扩展到70亿参数及以上的大语言模型的实验。从中学到的东西太多了…

X AI KOLs Timeline · 2026-06-25 缓存

Zyphra 分享了他们在大型语言模型持续学习方面的首项工作,研究模型是否能够从新数据中持续学习,并推导出在高达70亿参数的扩展实验中塑性丧失开始的缩放定律。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈