标签
Percy Liang 分享了 Harrier K40 训练运行的数据组成概览,详细说明了作为 Marin 团队共同努力一部分的域集群和质量桶。
一条推文宣布了535B参数(23B活跃)大语言模型的实时训练,并提供了在Weights & Biases和GitHub上跟踪进程的链接。