←新闻详情

Rohan Paul更新于 10月25日 21:00

Recursive 发布 40B MoE 编码模型 Flint,MacBook Pro 上 125+ tokens/s

Automated AI research is now producing models people can download and run runs entirely on a local machine under an Apache 2.0 license.

AI 导读

Recursive 发布首个模型 Flint,这是一个 40B 混合专家编码模型,采用 Apache 2.0 许可,权重已在 Hugging Face 开放,由自动化研究系统 Eureka Machine 在不到 4 个月内从零构建。Flint 在 MacBook Pro 上以 125+ tokens/s 生成代码,在 RTX Spark 上达到 150+ tokens/s。在 48GB MacBook 上,它的平均质量约 81%,对比 Qwen3.8 27B 的约 85%,但在 128K token 长会话中速度约为后者的 7 倍。

推荐理由

精选AI 评分 76

这条内容给出了本地编码模型在速度与质量上的具体取舍数据,读者可据此判断本地部署的可行边界。

主题

标签

引用

Richard Socher

@RichardSocher

隆重介绍 Flint,@Recursive_SI 的首个模型:一个由我们的自动化研究系统 Eureka Machine 打造的快速本地编码模型。 • 同类最佳的快速本地编码 • 速度最高可达同类模型的 2 倍:在 MacBook Pro 上达到 125+ tokens/秒,在 RTX Spark 上达到 150+ tokens/秒 • 在不到 4 个月内从零构建 在你自己的机器上享受私密、无计量限制的智能。权重现已在 @huggingface 开放,可在你喜欢的框架上本地运行,或在 @opencode 或 @pidotdev 上免费试用。

查看原文

Introducing Flint, @Recursive_SI’s first model: a fast local coding model built with our automated research system, the Eureka Machine. • Best-in-class fast local coding • Up to 2x faster than comparable models: 125+ tokens/sec on a MacBook Pro, 150+ on RTX Spark • Built from scratch in under 4 months Private, unmetered intelligence on your own machine. Open weights available now on @huggingface, run it locally on your favorite framework or try it for free on @opencode or @pidotdev.

查看原帖

正文 · AI 翻译

自动化 AI 研究如今正在产出人们可以下载并运行的模型,这些模型完全在本地机器上运行,采用 Apache 2.0 许可证。

Recursive Flint 是一个 40B 混合专家编码模型,由 Eureka Machine 构建,后者是一个循环系统:提出想法、实现想法、测试想法,并利用结果来决定下一步尝试什么。

Flint 在 MacBook Pro 上以每秒 125+ tokens 的速度编写代码,换算下来约为每秒 90 个单词,大约比你阅读它的速度快 20 倍。

而且它推动了本地编码的帕累托前沿。

在 48GB 的 MacBook 上,本地模型过去会让你在聪明但缓慢(Qwen3.8 27B 得分最高,但运行速度约为每秒 10 tokens)和快速但较弱(小型 Qwen3.5 模型)之间做选择。

Recursive Flint 的质量几乎同样高(平均约 81%,对比约 85%),而在长达 128K token 的会话中运行速度大约快 7 倍,阴影区域标出了此前没有任何模型能提供的速度与质量组合。

来源

Rohan Paul