先了解这件事
AI 综述
2026年8月12日,Unsloth发布Qwen3.8-2.4T-A95B的Dynamic 1-bit量化版及运行指南。据其介绍,该方案通过Dynamic 1-bit选择性量化层,把模型从4.9TB压缩到397GB,体积减少91%。压缩后的模型可在410GB以上内存或显存中通过Unsloth Desktop本地运行,官方同时放出了使用指南和GGUF文件。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:Unsloth
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
8月12日
Unsloth一手精选
Unsloth 将 Qwen3.8-2.4T-A95B 压缩至 397GB 并支持本地运行
Unsloth 通过 Dynamic 1-bit 选择性量化层,把 Qwen3.8-2.4T-A95B 从 4.9TB 压缩到 397GB,体积减少 91%。该模型现可在 410GB 以上内存或显存中通过 Unsloth Desktop 本地运行,官方同时放出了使用指南和 GGUF 文件。