Ornith-1.0-35B Q3_K_M：约17 GB显存，经KLD与BF16对比验证

Reddit r/LocalLLaMA 2026/06/27 02:30 模型

quantized-model 35b-llm vram-optimized kld-checked

摘要

Ornith-1.0-35B Q3_K_M是一个35B参数模型的3位量化版本，需要约17 GB显存，并通过KLD与BF16对比检查以确保保真度。

暂无内容

查看原文

相似文章

X AI KOLs Timeline

宣布Ornith-1.0-35B，一个Qwen3.6-35B-A3B的编码微调版本，在aider基准测试上略优于基础模型。同时推广用于在RTX 3090上运行LLM的club-3090仓库。

X AI KOLs Following

Ornith-1.0 是一系列专注于智能体编码的开源 LLM，参数范围从 9B 到 397B，在同等规模的开源模型中达到了最先进的性能。

X AI KOLs Timeline

Ornith-1.0-9B是一款新的90亿参数AI模型，针对8-12GB GPU进行了优化，在智能体编码基准测试中表现出色，性能与大小为其2-3倍的模型相当甚至超越。

Reddit r/LocalLLaMA

Ornith-1.0-35B GGUF 模型更新引入了原生 MTP 推测解码嫁接，可在单 GPU 上实现更快推理，解码速度提升约 1.3-1.35 倍，同时保持几乎相同的 token 分布。提供了多个量化版本的吞吐量、TTFT 和长上下文性能的基准数据。

Reddit r/LocalLLaMA

Ornith-1.0 已在 Hugging Face 上发布，包含一系列模型，参数范围从 9B 到 397B，涵盖密集和 MoE 架构，声称在各项基准测试中达到 SOTA 性能。