Unsloth 推出 DSpark,DeepSeek-V4-Flash 本地推理提速约 1.4–2 倍
DeepSeek-V4-Flash can now run 2× faster locally with DSpark! ⚡️
AI 导读
Unsloth 发布 DSpark,使 DeepSeek-V4-Flash-0731 的 GGUF 本地生成速度提升约 1.4–2 倍,且精度不变。该版本在本地可达到 120 tokens/s,Unsloth 同时提供了 GGUF 文件与使用指南。
推荐理由
精选AI 评分 60
Unsloth 给出 DSpark 对 DeepSeek-V4-Flash 本地推理的加速幅度与实测吞吐,可据此判断本地部署的提速空间。
主题
正文
当前显示原文,中文全文译文尚未就绪。
DeepSeek-V4-Flash can now run 2× faster locally with DSpark! ⚡️
DSpark enables V4-Flash-0731 GGUFs to generate ~1.4–2× faster with no accuracy change.
DeepSeek-V4-Flash-0731 can reach at 120 tokens/s.