Recursive 发布首个模型 Flint:本地编程 MoE,MacBook 上 125+ Token/s
Recursive 发布首个模型 Flint,总参数 400 亿、每 Token 激活 25 亿参数的 MoE,面向本地 Agent 编程,权重以 Apache 2.0 开源。短上下文下在 M4 Pro MacBook Pro 上每秒超过 125 个 Token,64GB RTX Spark 上超过 150 个,支持 llama.cpp、Ollama、LM Studio、vLLM、SGLang、Unsloth。其研发几乎各环节由自动化研究系统 Eureka Machine 参与,包括架构搜索、把输出层量化到 4 bit 并做离线蒸馏、以及为 M4/M5 融合 Metal 内核。
匹配字段摘要、正文
