先了解这件事
事件摘要
还没有公开综述,先看下面的报道时间线。
最新进展 · 正式报道
将 Nunchaku 4-bit 扩散推理引入 Diffusers事件进展
1 个已确认进展
- 来源:Hugging Face
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
7月23日
Hugging Face一手精选
将 Nunchaku 4-bit 扩散推理引入 Diffusers
Hugging Face 在 Diffusers 中原生支持 Nunchaku Lite,可直接加载采用 SVDQuant 的 4-bit 扩散模型,无需自定义管线、独立推理引擎或本地编译。在 RTX 5090 上,示例模型生成 1024x1024 图像约需 1.7 秒,峰值显存约 12 GB,而 BF16 管线约为 24 GB。NVFP4 检查点要求 NVIDIA Blackwell GPU,早期架构可使用 INT4,但 Volta 和 Hopper 目前不受支持。