pre-trained

Shibai-700M-Base是一个基于LLaMA的700M参数模型，在180亿个token的英文、数学和Python代码上进行了预训练。尽管与更大模型相比训练不足，但仍能生成连贯的文本，并且因其在单个RTX 5070 Ti GPU上的高效训练而备受瞩目。

TabPFN-3，一款预训练的表格基础模型已发布。该模型在单个GPU上支持高达100万行数据，推理速度提升10倍至1000倍，在基准测试中对比经典机器学习方法胜率高达93%。