←新闻详情

Unsloth更新于 10月14日 22:32

Unsloth 发布 Qwen3.8-27B 新版 GGUF 量化,精度提升 10%

We’re releasing new Qwen3.8-27B GGUFs with 10% higher accuracy.

AI 导读

Unsloth 发布新的 Qwen3.8-27B GGUF 量化版本,称精度提升 10%。其 Unsloth Dynamic V3 在 Div-300、KLD 等基准上比其他方案高出 10% 以上。同时发布的 1-bit 量化保留 77% 精度,可在 8GB 内存上运行。

推荐理由

AI 评分 57

Unsloth 给出新量化版本在多项基准上的提升幅度和 1-bit 量化所需内存,可据此判断本地部署门槛。

主题

标签

引用

Unsloth AI

@UnslothAI

Qwen3.8-27B can now be run locally! ✨ Run on 17GB RAM via Unsloth Dynamic GGUFs. Qwen3.8-27B is by far the strongest model for its size. We also uploaded NVFP4 quants. GGUF: https://t.co/xIdNwm7CLQ Guide: https://t.co/J2PwgMP6GZ https://t.co/NKFJuPXFyG

查看原帖

正文

当前显示原文,中文全文译文尚未就绪。

We’re releasing new Qwen3.8-27B GGUFs with 10% higher accuracy.

Unsloth Dynamic V3 outperforms others by >10% on Div-300, KLD & more benchmarks.

We also release 1-bit quants that retain 77% accuracy. Run on 8GB RAM.

来源

Unsloth