先了解这件事
AI 综述
2026年7月14日,Unsloth发布Gemma 4的NVFP4量化版本,称在GPU上推理速度提升1.5倍。官方表示该NVFP4方案面向Blackwell平台,可实现更快、更准确的4-bit推理。其中Gemma-4-12B NVFP4可在11GB显存上运行,26B-A4B在B200上达到13K tok/s。
AI 根据公开报道生成
最新进展 · 正式报道
Unsloth 发布 Gemma 4 NVFP4 量化版本，GPU 推理提速 1.5 倍事件进展
1 个已确认进展
- 来源：Unsloth
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
7月15日
Unsloth一手
Unsloth 发布 Gemma 4 NVFP4 量化版本，GPU 推理提速 1.5 倍
Unsloth 发布 Gemma 4 的 NVFP4 量化版本，称在 GPU 上推理速度提升 1.5 倍。其中 Gemma-4-12B NVFP4 可在 11GB 显存上运行，26B-A4B 在 B200 上达到 13K tok/s。官方称该 NVFP4 方案面向 Blackwell 平台，可实现更快、更准确的 4-bit 推理。