标签
Marin 构建了可扩展的基础设施,用于处理 Hugging Face 上开放数据集中的 25T tokens,以训练其 535B 语言模型,并强调开放社区的力量。
文章认为,由于固有的信任和检查问题,AI模型的训练端去污无法验证,并提出了一个评估端规则,通过控制评估过程来确保可复现性。