标签
Strata 是一款开源工具，借助 MoE 异构并行技术，可在显存仅 12GB 的游戏 PC 上本地运行 1250 亿参数的 Qwen3.8-Flash-Next 模型，在 NVIDIA RTX 5070 和 AMD RX 9070 XT 显卡上速度可达 60-94 tokens/s 以上。该项目宣称支持在 Windows 和 Linux 上使用 NVIDIA 和 AMD 显卡进行完全本地化的私密推理。