group-relative

标签

#group-relative

GRZO：面向大语言模型微调的群组相对零阶优化

arXiv cs.LG ↗ · 2026-06-03 缓存

GRZO是一种新颖的零阶优化方法，用于微调大语言模型，通过群组相对归一化降低方差，与MeZO相比实现了更高的准确性和内存效率。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈