data-weighting

标签

#data-weighting

序列加权的规模化研究

Lobsters Hottest ↗ · 2026-09-21 缓存

本研究探讨了语言模型训练中序列加权的缩放定律，发现模型随着规模增长表现出非单调行为：从学习通用模式转向学习数据特定模式，随后又回到通用模式。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈