tensor-level-allocation

一位开发者创建了一个任务感知的 GGUF 量化流水线，利用张量级比特分配，在手调 imatrix 基础上将 Gemma 4 12B Q3 的编码性能提升了 8.55%，而模型大小仅增加了 0.119%。