anisotropic

标签

#anisotropic

单一学习率不够：LoRA微调的自适应各向异性学习率

arXiv cs.LG ↗ · 昨天缓存

本文提出了一种用于LoRA微调的自适应各向异性学习率模型，以解决模块内异质性问题，提升性能并在各基准测试中提高秩容量利用率。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈