Unsloth 发布 Flint 的 Dynamic GGUF 量化版,可在 24GB 内存本地运行
Unsloth 发布 Flint 的 Dynamic GGUF 量化版本,可在 24GB 内存设备上本地运行,并附有运行指南。Flint 是 Recursive 的 Apache-2.0 模型,39.8B 参数、2.5B 激活,Unsloth 称其为 50B 参数以下最强的 MoE 模型,在 Mac 上可达 125 t/s、在 RTX Spark 上可达 150 t/s。Recursive 联合创始人 Richard Socher 此前介绍,该模型由自动化研究系统 Eureka Machine 在不到 4 个月内从零构建,权重已在 Hugging Face 开放。
匹配字段摘要

