cost-efficient-training

#cost-efficient-training

Puro-2B：在RTX 5090上以不超过5090美元训练的Qwen2-1.5B

Hugging Face Daily Papers ↗ · 2026-08-27 缓存

本文提出了一种开源预训练配方，该配方在消费级RTX 5090 GPU上训练2B参数的语言模型，成本低于7000美元，性能接近更大的基线模型，并推导出了模型训练的成本缩放定律。

0 人收藏 0 人点赞