peculiar-ragdoll 的 Dirk-Qwen 3.8-27B 对比 UkisAI Swift-1.5 Qwen3.8-27B
摘要
一位 Reddit 用户在 Apple Silicon 和自建推理框架上,用一套自定义的领域特定评测集对两个基于 Qwen 3.8-27B 微调的模型变体(peculiar-ragdoll 的 Dirk-Qwen 与 UkisAI Swift-1.5)进行测试,发现 Dirk 的表现明显更锐利、token 效率更高,而 Swift 在难题上经常因 token 限制截断而直接失败。
我有一长串自己整理的领域特定评测问题,用来验证哪些模型是我可以信赖的:编码、编码(numpy/pandas)、数据分析决策、本地 RAG、语音助手。这些内容涵盖我每天可能会遇到的场景。测试题目的难度和组成各有不同:简单、中等、困难。
系统环境:M1 Max 32 核 32GB,Dirk 上下文为 128K,Swift 为 110K。Swift 没有 XL 版本,所以我只能用 L 量化来测试,以尽量保持一致。
我用我的 tuieval 工具跑了评测,测试对象是 peculiar-ragdoll 的 Dirk-Qwen3.8-27B-UD-Q4_K_XL 和 Swift-1.5-Qwen3.8-27B-Q4_K_L,加载方式是通过一个修改版的 Splash。这个“混合框架”是我本地整合的,基于 incoai/Splash 1.1 和 paperniuk 的 apple7-m1-kernels。我做了一些小改动,但都不会影响模型性能。我只是合并并微调了一些我喜欢的内存特性,比如 llama.cpp 中加载开始时的上下文适配检查,以及我个人关于自动上下文处理的体验优化(那些我不想自己操心的事情)等等。
说这个结果让我惊讶完全是轻描淡写,它简直让我大开眼界。几天前我用仅 44 道题做过第一次测试时,我以为这一定是某个提示词缓存问题,让 Dirk 占了便宜。我验证过并不是,并用更多题目跑了测试来确认。这是真实有效的测试结果。
Dirk-Qwen 在得出决策和给出回答方面要锐利得多。每次传入聊天模板的“请简洁回答”指令所产生的效果,远超我的预期。它还用少得多的时间消耗答对了更多题。
让 Swift-1.5 栽跟头的主要是难题。它不停地尝试,直到每题 16,384 的最大 token 限制被用尽,然后因截断而失败。即使忽略这些 16,384 截断失败的情况,只对比其他题目,Dirk 的 token 用量也明显更低。
截断视图……以下基本是同样的模式,还有另外 191 道不同的题目。
https://preview.redd.it/otg3d1rkbqsh1.png?width=1420&format=png&auto=webp&s=eed9d563b76f1108debfaf1a38cc11fb0599bbed
更重要的是,这种表现不仅仅体现在问答上。在实际的代码重构任务中也能看到同样的差异。
另外提一句:目前唯一能 100% 通过我全部评测集的模型是 Opus 5.5。Deepseek Flash 4.1 fp32 除了三题外其余全部答对。
相似文章
ukisai/Swift-Qwen3.8-27b
Swift-Qwen3.8-27B 是 UkisAI 基于 Qwen3.8-27B 开发的推理高效版本,可将思考令牌减少 58.3%,同时保持几乎相同的性能。
UkisAI Swift-Qwen3.8-27B / 思考量减少58.3%,速度提升1.95倍,同时保持xhigh准确率
UkisAI 对 Qwen 3.8 27B 模型进行了后训练,以减少不必要的思考令牌,从而在准确率损失不到1%的情况下,实现思考量降低58%和速度提升1.95倍,模型已开源并提供免费的研究API。
ThinkingCap 3.8-27B 对比 Swift 3.8-27B 对比 Qwen 3.8-27B 基准测试
文章对ThinkingCap-Qwen3.8-27B和Swift-Qwen3.8-27B与原始Qwen3.8-27B进行了基准测试,结果显示两个微调模型都减少了约40%的推理令牌,性能损失极小,但在特定语言结果和令牌使用模式上存在差异。
Swift 1.5 27b: Swift Qwen 变得更快
Swift 1.5 是基于 Qwen3.8-27B 的更新 AI 模型,在智能体和编程任务中提供改进的性能,并支持多种量化以适应不同硬件平台。
Swift-1.5-Qwen3.8-27b-oQ8e-mtp 在 Apple M5 Max 上 — 34.8 tok/s — llm-bench.io
本文基准测试了 Swift-1.5-Qwen3.8-27b-oQ8e-mtp AI 模型在 Apple M5 Max 上的表现,达到 34.8 令牌每秒,并提供了运行的重现步骤。