跳到正文
原文
Hugging Face Blog·AI 评分58

Diffusers 原生支持 Nunchaku 4-bit 扩散推理

Bringing Nunchaku 4-bit Diffusion Inference to Diffusers

AI 导读

Hugging Face 在 Diffusers 中引入 Nunchaku Lite,可直接用 from_pretrained() 加载 Nunchaku 的 SVDQuant 4-bit 检查点,无需自定义 pipeline 或本地编译 CUDA 内核。

来源:Hugging Face Blog · huggingface.co