Hao AI Lab 用 NVFP4 QAD 量化让视频生成逼近 BF16 精度
(3/6) 4-bit without the quality hit.
AI 导读
Hao AI Lab 在 FastVideo 中采用 NVFP4 QAD 对 BF16 Flex 做蒸馏量化，结果比普通量化更接近 BF16，差距缩小 14-17%。长视频片段受 attention 计算限制，FP4 attention 把 768p 15 秒片段的生成时间从 101.8 秒降到 85.3 秒。
推荐理由
AI 评分 58
原文给出 NVFP4 QAD 与 BF16 的量化差距和 FP4 attention 的实测耗时，可据此判断低比特视频生成的精度与速度取舍。
主题
正文 · AI 翻译
(3/6) 4-bit 量化，且不牺牲质量。
NVFP4 QAD 以 BF16 Flex 为基准进行蒸馏，与它的差距比普通量化缩小 14-17%。
长片段受 attention 计算限制，因此 FP4 attention 将 768p 15 秒片段的生成时间从 101.8 秒缩短到 85.3 秒。https://t.co/DyjQU5QUtl