Meta 发布 8160 亿参数开放权重模型 Muse Spark Open,可在 Mac Studio 上本地运行
刚刚,Mac Studio 迎来小扎最强开源模型,苹果等来了最意外的助攻-36氪
Meta 发布开放权重模型 Muse Spark Open,总参数量 8160 亿,采用 MoE 架构,每次推理激活约 420 亿参数,开发者可下载权重在自有硬件上部署。苹果同步展示多机推理方案,用 NVFP4 四位量化把模型内存占用压到约 493GB,两台 M5 Ultra Mac Studio 采用张量并行时生成速度约每秒 24.99 tokens,四台可达每秒 36.73 tokens。Meta AI 负责人 Alexandr Wang 表示,本地运行时 Meta 无法看到或控制用户的使用内容。
推荐理由
精选AI 评分 78
Meta 开放权重模型与苹果多机推理方案结合,读者可了解 8160 亿参数模型在桌面端运行的内存与并行取舍。
主题
正文
36氪Auto数字时氪未来消费智能涌现未来城市启动Power on36氪出海36氪研究院潮生TIDE36氪企服点评36氪财经职场bonus36碳后浪研究所暗涌Waves硬氪氪睿研究院媒体品牌
企业号企服点评36Kr研究院36Kr创新咨询企业服务
核心服务城市之窗政府服务
创投发布LP源计划VClubVClub投资机构库投资机构职位推介投资人认证投资人服务
活动搜索项目推荐我要入驻城市合作刚刚,Mac Studio 迎来小扎最强开源模型,苹果等来了最意外的助攻爱范儿·2026年10月16日 11:50小扎给苹果送来大模型
扎克伯格曾嘲讽苹果,在 iPhone 之后就没发明过什么了不起的东西。如今,他却主动晒出 Meta AI 在 Mac 上工作的照片,感谢苹果和新任 CEO John Ternus 的支持。
让双方走到一起的,是一个拥有 8160 亿参数的大模型,以及把它搬上用户书桌的共同目标。
今天凌晨,Meta 发布开放权重模型 Muse Spark Open,并与苹果共同展示了它在两台或四台 Mac Studio 上运行的方案。开发者可以在本地使用模型编写代码、分析视频、执行智能体任务,推理过程无需经过模型厂商的服务器。
苹果多年投入的自研芯片、统一内存和开发工具,也因此有了施展空间。如今,8160 亿参数的模型在桌面上运行,让 Mac 距离成为 AI 时代的首选个人电脑,又近了一步。
小扎送来新模型,苹果准备好了电脑
今年 8 月,Meta 推出规模较小的开放权重模型 Muse Glimmer,扎克伯格当时表示,之后还会开放更大、更强的模型。如今,这份承诺变成了拥有 8160 亿参数的 Muse Spark Open。
开发者可以下载模型权重,在自己的硬件上部署,也可以通过云服务商和开发工具使用。其许可证允许一定范围内的商业使用,为企业自行部署和开发应用留出了空间。
Meta AI 负责人 Alexandr Wang 表示,Muse Spark Open 的能力仍低于本周早些时候发布的闭源模型 Muse Wonder。不过,开放权重赋予了它另一种吸引力,开发者能够自己选择运行环境、研究模型,并按照实际需求组织应用。
Meta 希望这些尝试从小规模开始,随后逐渐扩大。苹果的加入,则为开发者提供了一套明确的本地运行方案。
扎克伯格在 X 上晒出 Meta 智能体在 Mac 上工作的照片,表示 Muse Spark Open 当天开放权重,得益于与 Ternus 和苹果的合作,它在新款 Mac Studio 上运行得很好。
Ternus 随后回应,能够在书桌上如此高效地运行这种规模和能力的模型,令人振奋,并称 Mac Studio 正在继续拓展设备端 AI 的边界。
Wang 对两家公司的合作给出了一个更生活化的评价。他向 Axios 开玩笑,看到「爸爸妈妈终于又能好好相处」,大家都很高兴。
据他介绍,双方已经合作数月,曾在苹果任职、如今加入 Meta 的 Daniel Gross,在其中发挥了重要作用。尤其是,Meta 今年早些时候已经购入数百台 Mac,供超级智能团队探索本地 AI 和智能体应用。
合作最值得关注的一点,是模型能力与用户数据之间,可以建立一种新的关系。
按照 Wang 的说法,开发者在自己的设备上运行模型时,Meta 无法看到或控制其使用内容。用户可以获得 Meta 的模型能力,同时将提示词和推理过程留在自己掌握的环境里。
对个人而言,本地运行可以减少私人资料向外部服务器传输;对企业而言,代码、文档和业务数据也能留在自主管理的设备上。隐私与安全需求因此成为推动本地 AI 的实际动力,而开放权重让这条路具备了可操作性。
8160 亿参数,怎么装进几台 Mac
把如此庞大的模型搬上书桌,需要解决两个问题,电脑能否装得下,以及装下以后能否足够快地工作。
Muse Spark Open 采用混合专家架构,也就是 MoE,总参数量达到 8160 亿,每次推理激活约 420 亿参数。
它像一个规模庞大的专家团队,处理不同内容时,只调动其中一部分专家参与计算。模型因此可以保留较大的总容量,同时减少每一步实际需要完成的计算。
不过,没有参与当前计算的参数,仍然需要存储起来,供后续调用。MoE 降低了计算负担,容纳整套模型的内存需求依然可观。
按照苹果技术博客的数据,在原生 BF16 精度下,Muse Spark Open 仅模型参数就需要超过 1.6TB 内存。
苹果使用 NVFP4 四位量化版本,将模型内存占用压缩至约 493GB。量化相当于用更精简的数值表示方式存储参数,通过降低数值精度,换取更小的内存占用。
即便如此,单台配备 512GB 统一内存的 Mac Studio 依然难以做到游刃有余。模型权重之外,推理过程中的临时计算数据、KV Cache(键值缓存),以及操作系统和运行框架,都需要占用额外内存。
多台 Mac 协同工作,便成了下一步。
在苹果展示的多机推理方案中,MLX 主要采用两种并行方式,其中较容易理解的是流水线并行。模型前一部分放在一台 Mac 上,后一部分放在另一台上,第一台完成计算后,再把结果交给第二台继续处理。
这种方式能够让两台电脑共同容纳一个大型模型,但计算存在前后依赖,后一台机器需要等待前一台的结果,设备无法始终同时投入工作。
张量并行则将同一层里的计算分配给多台机器,让它们共同参与,再交换和汇总结果。
更多设备可以同时工作,机器之间也就需要更频繁地交换数据。如果传输太慢,增加的计算能力就会消耗在等待中。
苹果为此使用雷雳 5 上的 RDMA 通信,降低多机交换数据的延迟,再由 MLX 协调计算。在博客展示的双机配置中,两台 Mac 通过两根雷雳线连接,以增加链路带宽。
最终的性能差距,清楚地体现了这种协作方式的价值。
在输入上下文为 8192 tokens、随后生成 128 tokens 的测试中,两台 M5 Ultra Mac Studio 使用流水线并行时,Muse Spark Open 的生成速度约为每秒 15.74 tokens。
改用张量并行后,双机速度提高到每秒 24.99 tokens,提升接近六成。进一步增加到四台机器,速度达到每秒 36.73 tokens,首个 token 的等待时间也从双机张量并行的约 8.2 秒,缩短至约 4.8 秒。
从存得下,到能够以实际可用的速度交互,背后依靠的是一整套软硬件配合。
统一内存架构让 CPU 和 GPU 能够共享内存资源,大容量配置为模型提供存储空间,高带宽支持持续读取数据,而 MLX 与雷雳互联则让多台电脑能够协同承担任务。
M5 Ultra 进一步将统一内存带宽从 M3 Ultra 的 819GB/s 提高至 1.2TB/s。M5 系列 GPU 加入的 Neural Accelerators,则用于加速矩阵运算,改善处理输入上下文时的计算效率。
两项变化对应着用户能够感受到的两个环节,提交一大段材料后,需要等多久才开始回答,以及开始回答以后,内容输出有多快。
在苹果针对 Qwen 3.8 和 Mistral Medium 3.5 的单机测试中,M5 Ultra 相比 M3 Ultra,首个 token 等待时间对应的速度提升最高约为 4.6 倍,文字生成速度约为 1.6 倍。
苹果还展示了如何把本地模型服务用于 OpenCode 等编程工具。开发者可以继续通过智能体界面提交任务,让模型处理上下文、生成代码,而背后的推理工作由桌上的 Mac 完成。
由此来看,Muse Spark Open 在 Mac 上运行,也是一场对苹果既有投入的集中检验。芯片、内存、互联和软件工具各自解决一部分问题,最终共同决定了桌面 AI 能走多远。
目前,这套方案仍主要面向专业开发者和团队。搭载 M5 Ultra 的 Mac Studio 起售价为 46999 元,512GB 版本将于本月晚些时候上市,运行 Muse Spark Open 还需要根据内存需求配置多台设备。
苹果连闲着的 Mac 也惦记上了
几台高配 Mac Studio 组成集群,解决了大型模型如何进入桌面的问题。苹果研究人员近期发表的另一篇论文,则将目光投向办公室里已经存在、却经常没有充分使用的电脑。
名为 Minions 的系统,尝试把 Apple Silicon 设备闲置的 GPU 组织起来,形成一个共享的推理资源池。
研究人员观察到一种常见的资源错配。一边是团队申请集中式 GPU 时,需要长时间排队;另一边,大量 Mac 正在处理邮件、文档等日常工作,GPU 仍有不少空闲。
Minions 希望让这些已有设备分担任务,减少团队对新增 GPU 采购的依赖。
团队提交工作后,系统会将其分成多个子任务,由参与的 Mac 主动领取,使用本机 GPU 完成计算,再把结果上传至指定存储位置。
与前文多台 Mac 紧密协作运行同一个大型模型的方式不同,Minions 主要面向能够分别执行的任务,让不同电脑各自处理一部分工作,提高整体处理量。
目前,系统支持生成文本向量,以及通过 Ollama 调用本地大模型完成文本生成。前者可以用于检索等场景,后者适合批量处理大量独立请求。
员工电脑的使用状态随时可能变化,有人会合上笔记本,有人会断开网络,也有人需要优先处理自己的工作。
Minions 因此设置了任务回收机制,监测正在执行任务的设备,一旦设备失去响应,就将未完成的子任务重新交给其他电脑。
设备拥有者还可以设置优先参与的团队、项目或任务。论文提到,团队有时会通过 Slack 临时招呼同事,请大家启动执行程序,共同处理某项工作。
原本需要排队申请的计算资源,就这样变成了同事之间可以临时组织的协作。
按照论文披露的使用情况,过去因集中式 GPU 紧张而需要等待十多个小时的部分任务,使用 Minions 后,往往几分钟内就能开始执行。闲置设备的加入,让团队更早获得了可用算力。
数据如何管理,也被纳入系统设计。Minions 支持在指定团队或组织内部独立部署,将任务限制在各自管理的设备范围内,让共享算力与数据管理要求相适应。
研究人员还计划探索分布式模型训练,而现阶段的重点,是让已有 Mac 成为集中式 GPU 基础设施的补充。
从 Muse Spark Open 到 Minions,苹果正在挖掘个人电脑在 AI 时代的两种价值。一种通过大内存和高速互联,让桌面设备承担更大的模型;另一种利用闲置时间,让更多已有电脑参与计算。
当 AI 接触的数据越来越私人、承担的任务越来越深入,用户对隐私、安全和自主控制的需求,也会不断推动本地部署。开放模型提供了选择权,能够高效运行它们的硬件,则把选择权变成了实际能力。
苹果与 Meta 的合作,正是两股趋势的一次汇合。对于努力争取 AI PC 位置的 Mac 而言,多年来投入的芯片、统一内存和开发生态,终于开始以一种足够直观的方式得到回报,越来越大的模型,正在它的桌面上运行起来。
技术博客参考地址:
本文来自微信公众号“APPSO”,作者:发现明日产品的,36氪经授权发布。
该文观点仅代表作者本人,36氪平台仅提供信息存储空间服务。+119
好文章,需要你的鼓励爱范儿特邀作者3收 藏+10评 论打开微信“扫一扫”,打开网页后点击屏幕右上角分享按钮微 博沉浸阅读返回顶部举报参与评论评论千万条,友善第一条登录后参与讨论提交评论0/1000你可能也喜欢这些文章Meta发布美国最强开源大模型DeepMind AlphaProof Nexus登《Science》:AI自主破解多道56年未解Erdős数学难题抢入口、寻变现,大模型公司为何集体“不务正业”?亚马逊,Agent最严厉的父亲前钉钉总裁叶军,离职一年后创业了,赌大厂做不了也不屑做的「缝隙」AI 脸不够用,普通人也能 “ 卖脸 ” 赚钱了,最高 10000 元?苹果和 Meta 和好了,是 AI 逼的Linux之父也用AI写内核了,曾嘲讽AI「90%是营销」,如今用Claude Code写了8个补丁,性能暴涨3倍我们不该投资更多的「田柯宇」爱范儿特邀作者
聚焦创新及消费科技领域发表文章4294篇
36氪欧洲站36氪欧洲站36氪欧洲站Ai产品日报网络谣言信息举报入口热门推荐
推送和解读前沿、有料的科技创投资讯
一级市场金融信息和系统服务提供商
聚焦全球优秀创业者,项目融资率接近97%,领跑行业