strata

一个用户开玩笑说，自己同时跑两个 Strata 引擎，每秒 70 个 token，每天消耗 1200 万 token，感觉就像个"土皇帝"。他将自己与 Poteto 作对比——Poteto 曾是 Cursor 员工，现已跳槽到 xAI，据报道 Poteto 每分钟消耗 3400 万 token，每月向 Cursor 和 GrokBot 提交 2500 个 PR。

我需要您提供实际的英文 Markdown 文章内容才能进行翻译。您目前提供的内容是中文摘要，而非需要翻译的英文原文。 请粘贴完整的英文 Markdown 文章，我将立即将其翻译为简体中文，并保留标题结构、列表、强调、行内代码和链接等格式。

一位用户质疑 Strata 的高性能宣传：虽然 tokens per second 和针尖测试数据亮眼，但其剪枝专家（pruned experts）与量化是否牺牲了实际输出质量，尚未经过验证，建议用 llama.cpp 上运行相同 GGUF 来做对照测试。

# 单卡 RTX 5090 运行 Qwen3.8-Flash-Next 125B-A6B：strata-nvfp4 引擎性能实测 有用户在**单张 RTX 5090** 上，使用 **strata-nvfp4** 引擎（Strata 的 NVFP4 分支）运行 **Qwen3.8-Flash-Next 125B-A6B** 混合 MoE 模型，并分享了「小马挑战」的性能数据。 ## 测试任务 「小马挑战」要求模型生成一段 HTML，其中包含一个 Three.js 低多边形风格的奔跑小马动画。 ## 性能数据 | 指标 | 数值 | | --- | --- | | 生成步数 | 87 步 | | 输出 token | 12.4 万 | | 平均解码速度 | 103 t/s | | 缓存命中率 | 99% | ## 亮点 - **单卡跑大模型**：125B 总参数、6B 激活参数的混合 MoE 模型，在一张 RTX 5090 上即可流畅推理。 - **高吞吐解码**：平均 103 t/s 的解码速度，足以支持长内容的一次性生成。 - **极高的缓存命中率**：99% 的命中率说明 KV 缓存复用非常充分，长上下文场景下开销极低。 - **NVFP4 量化收益**：借助 strata-nvfp4 引擎的 4-bit NVFP4 路径，模型权重与计算密度得到显著压缩，才使得如此规模的模型能在消费级显卡上运行。 ## 小结 这份实测表明，在 Strata 的 NVFP4 分支加持下，消费级单卡已经能够以实用速度运行百亿级激活参数的 MoE 模型，为本地大模型部署提供了新的可能性。

作者分享用 Strata 把 125B-A6B 的 Qwen3.8-Flash-Next 部署到 12GB 显存（RTX 5070）并达到近 100 tok/s 的完整攻略，并让蚂蚁新出的 Ling-3.1-flash Agent 从零自动完成检查机器、下载、安装、排错与测速的全流程。

# 12小时实测横评：Strata 推理主机 vs llama.cpp 运行 Qwen3.8-Flash-Next 的持续编码工作流实录 一篇详尽的 12 小时上手实测文章，将 **Strata 推理主机** 与 **llama.cpp** 进行对比，测试场景为在持续编码工作流（continuous coding harness）中运行 **Qwen3.8-Flash-Next** 模型。文章记录了以下关键问题： - 出现幻觉性的工具调用输出（hallucinated tool outputs） - 上下文压缩后产生的记忆混乱（memory confusion after compaction） - 反复出现的文件写入格式错误（repeated malformed file writes） 最终，作者因上述问题放弃了 Strata，回归到适合企业级开发的方案。

Hugging Face 上发布了一个打包了 Qwen3.8-Flash-Next abliterated GSQ-RCO 量化版本的项目，附带一个 480KB 的控制向量配合 Strata 使用，可在本地 GPU 上实现运行时移除拒答，无需修改模型权重。

作者认为Strata革命后，32G以上内存和16G以上中端显卡很可能涨价，并建议用64G RAM + 16G VRAM的配置即可以千元左右的成本运行Strata。引用的帖子显示DDR5价格（尤其是16G和32G）已经明显恶化。

一位显存有限的开发者询问 Qwen Flash Next 的 IQ3 量化是否足以胜任智能体编程任务，并将其与 Q4/Q5 版本进行对比，考虑在本地购买更多内存以使用 Strata 推理引擎运行。

本文分析了为什么GNOME剪贴板管理器由于GJS的单线程合成器导致卡顿，并介绍了Strata，一款新的剪贴板管理器，它将繁重的工作移出合成器线程，从而消除卡顿。