svdquant

Nunchaku 是一款基于 SVDQuant 的 4-bit 扩散推理引擎，现已原生集成到 Hugging Face Diffusers 中，通过简单的 from_pretrained() 调用即可快速、节省内存地加载量化扩散模型。