我们有Q3.8 35B:三款新Ornith 1.5发布

Reddit r/LocalLLaMA 模型

摘要

三款新的Ornith 1.5 AI模型(9B、35B-A3B 和 397B)已在Hugging Face上发布,提供标准和GGUF格式,便于高效推理。

有人试过这些了吗? https://huggingface.co/ornith-ai/Ornith-1.5-9B https://huggingface.co/ornith-ai/Ornith-1.5-35B-A3B https://huggingface.co/ornith-ai/Ornith-1.5-397B https://huggingface.co/ornith-ai/Ornith-1.5-9B-GGUF https://huggingface.co/ornith-ai/Ornith-1.5-35B-A3B-GGUF https://huggingface.co/ornith-ai/Ornith-1.5-397B-GGUF 免责声明:与ornith无关。我只是每隔30分钟左右浏览一下huggingface寻找新模型。我上瘾了。
查看原文

相似文章

我们量化了新的 Ornith 1.5 9B 和 35B-A3B

Reddit r/LocalLLaMA

本文详细介绍了使用 Atomic Dynamic 方法对 Ornith 1.5 9B 和 35B-A3B AI 模型进行量化,提供了与标准量化的基准对比,并分享了 Hugging Face 集合。

Ornith-1.0 在 Hugging Face 上发布

Reddit r/LocalLLaMA

Ornith-1.0 已在 Hugging Face 上发布,包含一系列模型,参数范围从 9B 到 397B,涵盖密集和 MoE 架构,声称在各项基准测试中达到 SOTA 性能。

ornith-ai/Ornith-1.5-35B-A3B-GGUF

Hugging Face Models Trending

Ornith-1.5-35B-A3B 是一款新的AI基础模型,通过采用端到端自我改进,在编码和代理基准测试上取得了卓越的性能,每个令牌仅激活约30亿个参数。