FastH3 Trim 在 8 GB 显存下运行
4/8) Down to 8 GB of VRAM. On an RTX 4090 with memory capped:
AI 导读
4/8) 降至 8 GB 显存。在限制显存的 RTX 4090 上： 16 GB：V2 80 s，Trim 72 s 12 GB：V2 91 s，Trim 74 s 8 GB：Trim 82 s Transformer 以 FP8 运行并从主机内存流式加载，因此更小的显卡也能生成。
正文
当前显示原文，中文全文译文尚未就绪。
4/8) Down to 8 GB of VRAM. On an RTX 4090 with memory capped:
16 GB: V2 80 s, Trim 72 s 12 GB: V2 91 s, Trim 74 s 8 GB: Trim 82 s
The transformer runs in FP8 and streams from host memory, so smaller cards can still generate. https://t.co/9ZOf8KV19o