←新闻详情

Unsloth更新于 10月24日 12:51

Unsloth 将 Qwen3.8-2.4T-A95B 压缩至 397GB 并支持本地运行

Qwen3.8 can now be run locally! 🔥

AI 导读

Unsloth 通过 Dynamic 1-bit 选择性量化层,把 Qwen3.8-2.4T-A95B 从 4.9TB 压缩到 397GB,体积减少 91%。该模型现可在 410GB 以上内存或显存中通过 Unsloth Desktop 本地运行,官方同时放出了使用指南和 GGUF 文件。

推荐理由

精选AI 评分 64

原文给出了量化后的体积变化和本地运行门槛,读者可据此判断大模型本地部署的可行性。

主题

标签

正文 · AI 翻译

Qwen3.8 现在可以在本地运行了!🔥

我们通过 Dynamic 1-bit 选择性量化层,将 Qwen3.8-2.4T-A95B 从 4.9TB 缩小到 397GB(体积减少 91%)

Qwen3.8 可与 GPT-5.6 Sol 匹敌

来源

Unsloth