Hao AI Lab 用 NVFP4 QAD 量化让视频生成逼近 BF16 精度
(3/6) 4-bit without the quality hit.
AI 导读
Hao AI Lab 在 FastVideo 中采用 NVFP4 QAD 对 BF16 Flex 做蒸馏量化，结果比普通量化更接近 BF16，差距缩小 14-17%。长视频片段受 attention 计算限制，FP4 attention 把 768p 15 秒片段的生成时间从 101.8 秒降到 85.3 秒。
推荐理由
AI 评分 58
原文给出 NVFP4 QAD 与 BF16 的量化差距和 FP4 attention 的实测耗时，可据此判断低比特视频生成的精度与速度取舍。
主题
正文
(3/6) 4-bit without the quality hit.
NVFP4 QAD distills against BF16 Flex and lands 14-17% closer to it than plain quantization.
Long clips are attention-bound, so FP4 attention cuts 768p 15 s from 101.8 s to 85.3 s. https://t.co/DyjQU5QUtl