plasticity-loss

标签

Cards List
#plasticity-loss

训练的动力学:语言模型中涌现、可塑性丧失与电路控制的驱动成核速率定律

arXiv cs.LG ↗ · 2026-07-31 缓存

这篇理论论文提出了一种驱动成核速率定律,用于解释语言模型中的能力涌现、可塑性丧失和电路控制,并通过在Pythia和一个受控的门控注意力模型上的实验加以支持。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈