fp8-training

标签

Cards List
#fp8-training

@_akhaliq: A.X K2 刚刚在 Hugging Face 上发布 大规模稀疏MoE (688B / 33B 激活参数) https://huggingface.co/skt/A.X-K2

X AI KOLs Following · 4天前 缓存

SKT 在 Hugging Face 上发布了 A.X K2,一个 688B 参数的稀疏 MoE 语言模型,拥有 33B 激活参数,原生采用 FP8 训练,并具备 Think/Non-Think 推理模式。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈