标签
ByteOtter在Qwen 3.5 4B上复现了张量级分配，实现了16.67%的相对推理性能提升，同时模型大小仅增加0.412%，标志着这是Gemma之外的首次跨家族应用。
一位开发者创建了一个任务感知的 GGUF 量化流水线，利用张量级比特分配，在手调 imatrix 基础上将 Gemma 4 12B Q3 的编码性能提升了 8.55%，而模型大小仅增加了 0.119%。