@ItsmeAjayKV:快速更新:我在3090上试用了Ornith-1.0-35B-Q5_K_M,感受复杂。好的方面:速度确实很快。我测…

X AI KOLs Following 模型

摘要

用户在一张RTX 3090上测试了Ornith-1.0-35B,发现其推理速度较快(提示处理1560 tok/s,生成约78 tok/s),但在Three.js任务上的编码表现始终不如Qwen 3.6,即使多次尝试也是如此。

Quick update: 我在3090上试用了Ornith-1.0-35B-Q5_K_M,感受复杂。 好的方面:速度确实很快。我测得提示处理速度约1,560 tok/s(25.8K上下文),生成速度约78 tok/s,在我的配置下明显快于Qwen 3.6 27B和35B MoE模型。 令人意外的是:在我目前测试的少量Three.js编码评估任务中,Ornith要么完全失败,要么生成的结果明显不如Qwen 3.6。 这里我附上一个并排录制的视频,展示了其中两个评估任务在所有四个模型上的表现,方便你自行对比输出。(等我有更多时间后会再补充更多) 说明一点:对于Ornith,我每个任务最多尝试了2-3次,因为它在第一次尝试中都没有产生可运行的结果。而其他所有模型均只尝试了一次。那些需要更多次尝试的情况没有包含在内。 我会继续测试以排除自身可能的问题。目前正在下载Diff Quant版本,之后会重新运行同样的评估,再分享更完整的报告。
查看原文
查看缓存全文

缓存时间: 2026/06/28 01:54

快速更新:

我在我的 3090 上试用了 Ornith-1.0-35B-Q5_K_M,感受复杂。

优点:速度确实快。测得提示处理(25.8K 上下文)约 1560 tok/s,生成约 78 tok/s,明显比我的设备上的 Qwen 3.6 27B 和 35B MoE 模型都快。

意外之处:在我测试的几个 Three.js 编码评估中,Ornith 要么直接失败,要么生成的结果明显不如 Qwen 3.6。

我附上了一个并排录制的视频,展示其中两个评估在四个模型上的表现,方便您自行比较输出。(等我腾出更多时间后,会再附上更多内容。)

一点说明:对于 Ornith,在必要时我提供了最多 2-3 次尝试,因为它首次尝试并未能在任何任务上产生可用的结果。而其他每个模型展示的都是单次尝试的结果。我没有包含需要超过 3 次尝试的情况。

我会继续测试,排除我这边的问题。目前正在下载 Diff Quant 版本,准备在分享更完整的报告之前,用同样的评估重新跑一遍。

相似文章

RTX 3090 本地基准测试 - Qwen3.6 27b 对比 Ornith

Reddit r/LocalLLaMA

用户在RTX 3090上使用inspect-ai运行本地基准测试,比较Qwen3.6 27b、Gemma4 26B和Ornith1.0 35B。结果显示Qwen在知识和编码方面领先,而Ornith在接地性和召回方面具有竞争力。