training-steps

标签

Cards List
#training-steps

如何分配你的Token?训练步数与批次大小的缩放定律

arXiv cs.LG · 2026-07-03 缓存

提出了一种三项缩放定律,将模型大小、训练步数和批次大小解耦,使得用更少的运行次数即可进行稳健拟合,并推导出次优批次大小的缩放定律。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈