memory-constrained

标签

#memory-constrained

在空气中超越光速：32GB M4 MacBook Air上的8-22 tg/s Qwen3.8-Flash-Next (Q4/Q4ish)

Reddit r/LocalLLaMA ↗ · 2026-09-10

Cherenkov是一个新的Apple Silicon推理引擎，使用预测专家流和混合精度执行，实现对像Qwen3.8-Flash-Next这样的大型AI模型的高效内存受限推理。

0 人收藏 0 人点赞