我们有Q3.8 35B:三款新Ornith 1.5发布
摘要
三款新的Ornith 1.5 AI模型(9B、35B-A3B 和 397B)已在Hugging Face上发布,提供标准和GGUF格式,便于高效推理。
有人试过这些了吗? https://huggingface.co/ornith-ai/Ornith-1.5-9B https://huggingface.co/ornith-ai/Ornith-1.5-35B-A3B https://huggingface.co/ornith-ai/Ornith-1.5-397B https://huggingface.co/ornith-ai/Ornith-1.5-9B-GGUF https://huggingface.co/ornith-ai/Ornith-1.5-35B-A3B-GGUF https://huggingface.co/ornith-ai/Ornith-1.5-397B-GGUF 免责声明:与ornith无关。我只是每隔30分钟左右浏览一下huggingface寻找新模型。我上瘾了。
相似文章
我们量化了新的 Ornith 1.5 9B 和 35B-A3B
本文详细介绍了使用 Atomic Dynamic 方法对 Ornith 1.5 9B 和 35B-A3B AI 模型进行量化,提供了与标准量化的基准对比,并分享了 Hugging Face 集合。
Ornith-1.5开放模型发布:提供397B、35B和9B版本(2分钟阅读)
Ornith-1.5发布了一系列开放AI模型,提供397B、35B和9B版本,具备自我改进循环,并在基准测试中取得了与Claude Opus 4.8等顶级模型相媲美的成绩。
Ornith-1.0-35B Q3_K_M:约17 GB显存,经KLD与BF16对比验证
Ornith-1.0-35B Q3_K_M是一个35B参数模型的3位量化版本,需要约17 GB显存,并通过KLD与BF16对比检查以确保保真度。
Ornith-1.0 在 Hugging Face 上发布
Ornith-1.0 已在 Hugging Face 上发布,包含一系列模型,参数范围从 9B 到 397B,涵盖密集和 MoE 架构,声称在各项基准测试中达到 SOTA 性能。
ornith-ai/Ornith-1.5-35B-A3B-GGUF
Ornith-1.5-35B-A3B 是一款新的AI基础模型,通过采用端到端自我改进,在编码和代理基准测试上取得了卓越的性能,每个令牌仅激活约30亿个参数。