float8

标签

#float8

在RTX 5060 Ti上使用Extened Garlic以float8精度运行Qwen3.5 35B A3B，速度达55 tok/s

Reddit r/LocalLLaMA ↗ · 2026-07-24

一种名为'Extened Garlic'的技术使得在RTX 5060 Ti上以float8精度运行Qwen3.5 35B A3B模型达到55 tok/s的速度。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈