thermodynamic

标签

Cards List
#thermodynamic

热力学权重衰减:通过注意力比热探讨顿悟加速

arXiv cs.LG · 2026-07-24 缓存

本文引入了CvAdamW,一种AdamW变体,它通过监测注意力比热来检测顿悟相变,并动态调整权重衰减,在基线失败的模算术任务上实现了顿悟。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈