spectral-anisotropy

标签

Cards List
#spectral-anisotropy

@RichardYRLi: Muon消除谱各向异性,ISO继承它——在当前LLM-RLVR中,若RLVR主要从预训练中引出,则继承胜出……

X AI KOLs Timeline · 昨天 缓存

该线程介绍了ISO,一个保持谱各向异性的等谱优化器,与消除它的Muon形成对比,并讨论了其对LLM-RLVR训练和持续学习的意义。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈