Unsloth 让 DeepSeek V4.1-Flash-1017 可在本地运行
DeepSeek V4.1-Flash-1017 can now run locally! 🐳
Unsloth 宣布 DeepSeek V4.1-Flash-1017 现已支持本地运行,其 1-bit 量化版本保留约 88.2% 的准确率,体积从 508GB 缩小到 250GB,减少 52%。该版本需要 128GB 以上内存的设备,Unsloth 同时提供了使用指南和 GGUF 文件。DeepSeek 此前表示 V4.1-Flash-1017 在基准表现、任务完成速度和输出长度上较上一版本均有改进。
查看原帖🚀 DeepSeek-V4.1-Flash-1017 来了! 与上一版本相比,基准测试表现更强、任务完成速度更快、输出更短——在性能与成本上实现了帕累托改进。现已在我们的网站、应用和 API 上线。 🛠️ 针对 @DeepSeekHarness、腾讯 CodeBuddy、WorkBuddy 等进行了优化。升级至 DeepSeek Harness v0.2.1-rc.1 或更高版本,以获得新模型的最佳体验。 1/4
查看原文
🚀 DeepSeek-V4.1-Flash-1017 is here! Stronger benchmark performance, faster task completion, and shorter outputs than the previous version—a Pareto improvement in performance and cost. Now live on our website, app, and API. 🛠️ Optimized for @DeepSeekHarness, Tencent CodeBuddy, WorkBuddy, and more. Upgrade to DeepSeek Harness v0.2.1-rc.1 or later for the best experience with the new model. 1/4
正文 · AI 翻译
DeepSeek V4.1-Flash-1017 现在可以在本地运行了!🐳
我们让 1-bit 量化版本保留了约 88.2% 的准确率,同时将体积从 508GB 缩小到 250GB(−52%)。
在 128GB 以上内存的设备上运行。
V4.1 Flash 1017 是迄今为止最强的开源模型