Hugging Face·· 2026-07-23精选AI 评分75
Diffusers 原生支持 Nunchaku 4-bit 扩散模型量化推理
Bringing Nunchaku 4-bit Diffusion Inference to Diffusers
AI 导读
Hugging Face Diffusers 正式集成基于 SVDQuant 的 Nunchaku 4-bit（W4A4/AWQ）量化推理，支持直接通过 from_pretrained() 加载量化模型。
推荐理由
原文给出了 W4A4 量化在 Diffusers 框架下的显存与延迟实测数据，读者可以据此评估扩散模型在消费级显卡上的量化部署收益。
来源：Hugging Face · huggingface.co