**编程实测:Strata**
摘要
# 12小时实测横评:Strata 推理主机 vs llama.cpp 运行 Qwen3.8-Flash-Next 的持续编码工作流实录
一篇详尽的 12 小时上手实测文章,将 **Strata 推理主机** 与 **llama.cpp** 进行对比,测试场景为在持续编码工作流(continuous coding harness)中运行 **Qwen3.8-Flash-Next** 模型。文章记录了以下关键问题:
- 出现幻觉性的工具调用输出(hallucinated tool outputs)
- 上下文压缩后产生的记忆混乱(memory confusion after compaction)
- 反复出现的文件写入格式错误(repeated malformed file writes)
最终,作者因上述问题放弃了 Strata,回归到适合企业级开发的方案。
这将是一篇可能不太受欢迎的帖子——但它是真实的、有依据的——所以让我们直接开始吧。希望你熟悉我之前的 Tested in Coding 系列:https://www.reddit.com/r/LocalLLaMA/comments/1vvsokm/tested_in_coding_q8_k_xl_qwen38_27b_vs_bf16/ https://www.reddit.com/r/LocalLLaMA/comments/1vldngi/tested_in_coding_bf16_muse_glimmer_vs_bf16_qwen36/
## 背景
为了清楚起见,我并不追求高 token 生成速度。我在 llama.cpp 上运行 Qwen3.8-Flash-Next-UD-IQ3_XXS,KV 缓存设为 Q8_0,平均生成速度为 30-40 t/s。预填充速度较慢,为 530 t/s(根据我在这个 subreddit 上的了解,这似乎是正常水平)。由于显存限制,Flash Next 在 llama.cpp 上以 220,000 上下文运行。
首先,我会在尝试任何新东西之前进行研究和阅读。这包括了解在 Strata 中不正确设置采样参数可能带来的影响。在这篇评测中,我确实在 Strata 中测试了各种采样设置,包括温度从 0.7 到 1.0 的范围、top_p,甚至 presence_penalty 和 frequency_penalty。
**更新说明:** 为了完整性,Strata 托管的模型是:Qwen3.8-Flash-Next-UD-IQ4_XS,KV 缓存设为 Q8_0。llama.cpp 和 Strata 的推理设置均为 xhigh。
其次,我的自定义测试框架虽然是自动化的(24 小时不间断编码)且经过调优(压缩在 60 秒内完成),但在非工作时间会有人监督。我会逐条阅读 Flash Next 的每个推理过程和编码内容。
## 关键事件
在一次 12 小时的编码会话之后,以下是我的发现:
### 关键事件 1
在为某个版本写完执行报告后,它不确定自己是否真的创建了该报告:
> "等等——之前的工具结果说'任务 #XXXXX 的报告已创建'——我真的创建了它吗?让我检查一下:在重新生成 XXXXXXXX.txt / XXXXXX.txt 并完成 npm test 基线(post + post2 CLEAN)之后,我写了报告吗?回看压缩后的消息:在创建并读取了表格/详情之后,我运行了 post npm test,然后是分类器(首先是 NEEDS REVIEW,隔离的 e2e 为绿色,然后 post2 CLEAN),接着是 fitness 全部绿色……压缩后我真的完成了所有这些 post/classifier/fitness 的工作吗?"
### 关键事件 2
幻觉性地读取工具输出:
> "之前的 glob 输出实际上是 XXXXXXXX……但 read 工具报告说文件未找到……第二次相同的 glob 返回了相同的路径。然而第一次读取尝试……XXXXXXXXXXXX 失败了???等等,我发出的 Read 请求路径是 XXXXXXX\ — 返回的是'文件未找到'。但 glob 返回的就是这个。我是不是打错了?我发送的是 XXXXXXXXX……?我发送的是 \20260\,而不是 \202605\!!对——我漏了一个'5'。我会用正确的目录重试。我在读取路径时漏掉了一个数字。正确重试:文件不存在——glob 工具返回的是一个伪造/损坏的路径(测试框架的 token 限制产生的伪影,与之前'160 tokens'那行属于同类损坏)。真正的文件名可能有不同的前缀。在目录列表中查找它。"
### 关键事件 3
反复无法正确写入文件:
> "现在就写规格说明。保持简洁。[写入代码] 上次写入是格式错误的——删除它并重新干净地写入规格说明:[再次写入代码] 又犯了同样的错误——这次更糟:我把一个无意义的损坏文件写到了错误的路径 XXXXXXXX(一个不存在的目录!),而且我还没有删除任何东西。我针对这个规格文件的生成出了严重问题"
## 总结
在经历了这些关键事件以及其他问题之后,我已经因可靠性问题停止使用 Strata。这不适合企业级应用的开发环境。我可以向你保证,正确配置和托管的 AI 模型不会以这种方式产生幻觉或出现此类错误。
如果你已经读到这里,我想分享我对 Strata 的看法:
**A.** Strata 是有价值的,因为它推动了本地模型的研究和开发,尤其是在性能方面。虽然 token 生成速度的提升对我来说并不显著,但预填充速度确实大幅提高了。Strata 100% 是一项值得的努力,我期待看到它进一步发展。
**B.** 显然,速度的提升影响了采样过程,或者出了其他问题(可能是一个 bug),导致了错误或幻觉。我不确定在可靠性和速度之间是否已经找到了正确的平衡点,但希望随着 Strata 的发展这会有所改善。
**C.** 一个健壮且全面的自动化智能体测试和(独立的)审查流程似乎能够最大限度地减少 Strata 造成的大多数(额外的)编码错误。使用 Strata 时会出现明显的推理问题,但就这是否会导致实际编码错误而言,这是可以缓解的。**我不建议在没有完整的自动化测试和 QA 流程的情况下使用 Strata。**
相似文章
X AI KOLs Timeline
作者指出 Strata 的热度正持续升温,这是一款开源的本地 LLM 推理引擎,主打量化版 125B Qwen3.8-Flash-Next;同时将其与 antirez 的 ds4(DwarfStar)引擎进行对比,指出两者都支持投机解码、CPU/GPU 协同推理,并可集成 Claude Code 和 Codex 等工具。
Reddit r/LocalLLaMA
本文重点介绍了Strata推理引擎,它在配备12GB显存和64GB内存的笔记本电脑上运行Qwen3.8模型时,性能显著超越llama.cpp,文本生成速度最高可达50 tokens/秒,提示处理速度可达1500 tokens/秒。
Reddit r/LocalLLaMA
一个关于 Strata 模型实际缺点的社区讨论,对比其在 agentic 工作负载中与 Qwen 27B 及其他量化模型在 llama.cpp 上的表现,关于质量损失与速度提升的报告褒贬不一。
Reddit r/LocalLLaMA
一位用户报告称,在配备 RTX PRO 6000 的 Strata 上运行采用 Unsloth UD-Q4_K_XL 量化的 Qwen3.8-Flash-Next 时,单请求解码速度表现出色;在文本写作、计数、编程和推理任务中,其吞吐量约为同一 GPU 上 vLLM 的 2 倍。
Reddit r/LocalLLaMA
一位开发者在 RTX 4080 上用 OpenCode 对多款自托管 LLM(Qwen 3.5/3.6、Gemma 4、Nemotron 3、GLM-4.7)进行两项编码任务基准测试,揭示了速度与质量的权衡。