限时优惠

8160 亿参数塞进 Mac?Apple 和 Meta 这次到底想干什么

10 月 15 日 Muse Spark Open · Mac
2026-10-16 约 12 分钟阅读

2026 年 10 月 15 日,Meta 放出 Muse Spark Open 的权重:总参数 8160 亿,每个 token 激活大约 420 亿,上下文 100 万 token。同一天 Apple 用 MLX 把这个模型的 NVFP4 版本拆到两台或四台 M5 Ultra Mac Studio 上。

「塞进 Mac」不是塞进一台 Mac mini,也不是把 BF16 原精度放进一台机器。下面把官方硬件、Apple 自己的速度表,以及两家各自要的东西分开。

10 月 16 日能核对的事实

  1. 2026 年 10 月 15 日,Meta 放出 Muse Spark Open 权重:总参数 8160 亿,每个 token 激活 420 亿,推理上下文 100 万 token。输入是文本、图像、视频和音频,输出是文本。发布文:Meta AI Research。模型卡:Hugging Face。
  2. Mac 路径不是一台机器。官方写法是两台 M5 Ultra、512GB 统一内存的 Mac Studio,或四台 256GB。跑的是 NVFP4,运行时是 MLX 0.30.1+,系统是 macOS 26.2+,机器之间用 Thunderbolt 5 的 RDMA。硬件表:Hardware platforms。
  3. Apple 同日的 MLX 文给了速度。上下文 8192、四台张量并行:首 token 4.8 秒,生成 36.73 token/秒。这是 mlx_lm.benchmark,batch 1,接着生成 128 个 token。不是 kvmboot 测的,也不是 100 万上下文。原文:Apple Machine Learning Research。
  4. 8 月 25 日苹果新闻稿写,512GB 统一内存的 Mac Studio 10 月下旬到货。M5 Ultra 起价 5,499 美元,那是入门配置,不是 256GB 或 512GB 的标价。新闻稿:Mac Studio 新闻稿。
  5. 权重按 Muse Model License 发布。多数用途免费,产品里要标 “Built with Muse Spark Open”。把模型做成 API 卖给第三方,且公司及关联方任意连续 12 个月总收入超过 2000 万美元,要先通知 Meta 并另签协议。
8160 亿是总参数。Mac 上实际跑的是 4-bit 的 NVFP4,每个 token 只激活大约 420 亿。一台 Mac Studio 装不下,一台 Mac mini 更装不下。
多台电脑和线缆的工作台
封面是工作台,不是 Mac Studio 实拍。Muse Spark Open 的 Mac 路径是两台或四台机器用线连起来,不是一台笔记本。

10 月 15 日发布的是 Muse Spark Open,不是一台能跑 8160 亿的 Mac

Meta 的发布文把 Muse Spark Open 称为目前美国最强的开源权重模型,面向编程和长流程的 Agent。同一天,开发者博客把它写成稀疏混合专家:总参数 8160 亿,每个 token 大约激活 420 亿,能读文本、图像、视频和音频,上下文 100 万 token。权重当天就放在 Hugging Face,也进了 Amazon SageMaker、Google Cloud Model Garden 和 Microsoft Foundry。API 从第一天就挂在 Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI。开发者博客:Build with Muse Spark Open。

模型卡把结构写死了:MoE Transformer 加一个感知编码器,词表 202,048,训练数据覆盖 100 种以上语言。256 个专家里,每个 token 走 8 个。420 亿对 8160 亿,并不等于 8 除以 256,因为注意力那些层是共享的。原生精度是 BF16。Mac 上 Apple 拿来做表的是 NVFP4。推荐采样是 temperature 1.0、top_p 1.0、关掉 top_k;编程和 Agent 用 high 或 xhigh,默认就是 xhigh。这些都是模型卡上的句子,不是我们跑出来的。

模型卡上的项写明的数字和「塞进 Mac」的关系
总参数816B(8160 亿)标题里的那个数
活跃参数42B;256 个专家,每个 token 用 8 个生成时主要读这一小片
上下文推理 1M tokenApple 的速度表只做到 8192 和 65536
模态文本、图像、视频、音频进;文本出不是一个纯文本小模型
许可证Muse Model License开源权重,不是 Apache

所以 10 月 15 日同时发生了两件事:权重公开,以及一条把 NVFP4 检查点拆到几台 Mac Studio 上的路径。Meta 写过,他们用 Muse Code 在这套桌面环境里给开源 Mastodon 客户端 Ice Cubes 改过 iOS,也让模型在 DaVinci Resolve 里逐帧看素材。那是 Meta 自己的描述。本文没有复现。

8160 亿怎样才算塞进 Mac:两台 512GB,或四台 256GB

Apple 把账算在内存上。BF16 原精度,光参数就要超过 1.6TB。压成 NVFP4 之后,权重大约 493GB。再加上推理时的中间结果,一台 Mac Studio 仍然放不下,哪怕它有 512GB 统一内存。于是 MLX 把模型拆开:流水线并行是按层拆到两台机器上,张量并行是每一层都拆开。通信走 macOS 26.2 带来的 Thunderbolt 5 RDMA,MLX 0.30.1 起把这套通信叫做 jaccl。

Meta 的硬件页和 Mac 手册写的是同一组机器:两台 M5 Ultra、每台 512GB,或四台、每台 256GB。手册写准备时间大约 4 小时,每台 Mac 的磁盘都要放下完整的 NVFP4 检查点,机器之间要免密 SSH。每一对 Mac 都要 Thunderbolt 5 直连,建议每一对用两根线把带宽加倍。四台就是每台连另外三台。按这个接法数线:两台是 2 根,四台是 6 对乘 2,等于 12 根。12 是按文档规则数出来的,文档没有印「12」这个字。手册:Muse Spark Open on Mac。

路径机器精度和运行时
一台 Mac Studio装不下 Muse Spark OpenApple:BF16 仅参数超过 1.6TB;NVFP4 权重约 493GB,加上中间结果仍超过单台
Meta 写的桌面2× M5 Ultra 512GBNVFP4,MLX,合计约 1TB 统一内存
文档里的另一条4× M5 Ultra 256GB同样约 1TB,不依赖 512GB 那一档
NVIDIAB300 / GB300:NVFP4 用 4 卡,BF16 用 8 卡SGLang、vLLM、TensorRT-LLM
模型卡的显存下限一块 GPUNVFP4 至少 700GB;BF16 至少 2TB

493GB 和 700GB 不是互相打脸。Apple 的 493GB 是 NVFP4 权重大概多大;Hugging Face 模型卡的 700GB 和 2TB,是他们建议的整机显存,里面还有运行时。Mac 路径只承诺 NVFP4。BF16 那一档,模型卡指向的是 GPU,不是 Mac。

36 token/秒是四台机器、8192 上下文,而且是 Apple 自己的表

Apple 用 mlx_lm.benchmark 测了三组摆法,上下文 8192,batch 1,生成 128 个 token。Muse Spark Open 没有单机数字,因为单机放不下。下表只抄页面上 8192 这一档。数字来自 Apple,不是本文实测。

M5 Ultra 摆法首 token(秒)生成(token/秒)
两台,流水线8.415.74
两台,张量并行8.224.99
四台,张量并行4.836.73

「超过 36 token/秒」对应的就是最后一行,而且图注写的是上下文 8192。换到 65536,Apple 正文明确写出的是另一件事:四台 M5 Ultra、每一对两根线,首 token 从大约 50.5 秒降到 40.6 秒。他们说张量并行在长上下文上仍然保住了生成加速,但没有在这段正文里再印一列和 36.73 对应的 65536 生成速度。100 万 token 的窗口,这张表没有测到。

还有一个容易贴错的倍数。单机上,Qwen 3.8(270 亿,稠密,BF16)和 Mistral Medium 3.5(1280 亿,稠密,FP8)的首 token,M5 Ultra 相对 M3 Ultra 最高大约 4.6 倍;生成大约 1.6 倍,对应内存带宽从 819GB/s 到 1.2TB/s。这两款在 65536 上下文时,一台 512GB 机器大约占 68GB 和 158GB。峰值功耗 Apple 写成大约 200W(M3 Ultra)和 300W(M5 Ultra)。这些句子都不属于 Muse Spark Open:它没有 M3 对照,也没有单机。

Apple 要的是一台卖得出去的桌面集群,不是 iPhone 上的 8160 亿

8 月 25 日的 Mac Studio 新闻稿已经把这句话写完了:M5 Ultra 最高 36 核 CPU、80 核 GPU、512GB 统一内存、1.2TB/s 带宽,Thunderbolt 5 加 RDMA 可以把多台机器连成一块内存池,四台相对单台的推理最高大约 3 倍。512GB 那一档写的是 10 月下旬到货,其余配置 9 月 22 日起发货。起价 5,499 美元(教育店 5,099 美元)买的是入门 M5 Ultra,不是两台 512GB。

10 月 15 日的 MLX 文给这套硬件一个叫得上名字的模型。Muse Spark Open 单机放不下,所以「买一台」的故事不够,必须讲集群。MLX 是 Apple 自己的开源数组框架,Neural Accelerator 做矩阵乘,jaccl 走 Thunderbolt。文末的例子是在本机开一个兼容 OpenAI 的服务,端口 8080,再让 OpenCode 去调它。Apple 要的是:前沿开源权重的桌面演示发生在 Mac Studio 上,而不是只发生在租来的 GPU 上。

它没有发生在 iPhone 上,也没有写进 Apple Intelligence。4.6 倍那个数字,量的是较小的稠密模型在单台上的首 token,不能挪来当 Muse Spark Open 的加速比。谁要按标题去买一台 Mac mini,买到的是另一档统一内存,和 493GB 的权重不是一个数量级。

Meta 要的是美国开源权重的名字,以及一条把大客户拉回来的许可证

「美国最强开源权重」是 Meta 的原句。模型卡上的对照表并不等于每一项都领先。下面只抄和「强在哪里」有关的几行,推理档是 Meta 写的 xhigh。分数是模型卡里的数字,不是我们复测,也不是 10 月 16 日去 Artificial Analysis 网站对过的实时榜。

模型卡上的榜Muse Spark Open同表里可见的对照
MCP-Atlas89.2同表最高;Qwen3.8 84.5,GLM 5.3 84.2,Kimi K3 82.3
Artificial Analysis Intelligence Index39Qwen3.8 40,Kimi K3 44,GLM 5.3 45
OSWorld Verified80.4Kimi K3 84.8
Terminal-Bench 2.176.4Kimi K3 85.0,GLM 5.3 83.9,Qwen3.8 82.0
DeepSWE 1.160Kimi K3 68,GLM 5.3 67

领先的那一行是工具调用(MCP-Atlas)。综合指数、电脑操作、终端和软件工程几行,卡上印着的 Kimi、GLM 或 Qwen 更高。Meta 把模型放在 Agent 和长流程上,不是放在「每一张榜都第一」。桌面演示用来支撑「在家里也能跑」;同一天列出的七家 API,才是大多数人这周真正碰得到的入口。

许可证在 Hugging Face 的模型页上。它允许免费使用、微调和分发,但有两道坎。第一,每个使用该软件或衍生模型的产品界面、文档、网站或设置里,要显著标出 “Built with Muse Spark Open”。第二,如果你或关联公司把模型通过 API 一类的接口提供给第三方、对方拿到的是模型输出,这叫 Model as a Service;再如果任意连续 12 个月的合计总收入超过 2000 万美元,必须先通知 Meta 并另签书面协议。自用、研究,以及把它嵌进自己的产品功能而不是把模型本身当服务卖,不走第二道坎。不满 18 岁不在预期用户里。这是开源权重加商业闸门,不是把 Apache 许可证换了个文件名。

不买这组 Mac Studio,现在有三条用得上的路

标题问的是两家想干什么。落到自己的机器上,只有下面这几条对得上 10 月 16 日的文档。

  • 就想跑 Muse Spark Open:按手册准备两台 512GB 或四台 256GB 的 M5 Ultra,macOS 26.2,MLX 0.30.1,Thunderbolt 5 两两直连。512GB 仍停在 8 月 25 日新闻稿的「10 月下旬」。四台 256GB 不靠这一档。
  • 这周就要用、不想先买集群:走发布文点名的七家 API。价目不在 Meta 的发布文里,本文不编一个单价。
  • 已经有一台 512GB 的 Mac Studio:Apple 的表里,Qwen 3.8 和 Mistral Medium 3.5 放得下,Muse Spark Open 放不下。
  • 只有 Mac mini:统一内存和 493GB 的 NVFP4 权重差一个数量级。它可以当调用 API、编译和签名的那台 Mac,不能当权重所在的机器。内存为什么先被卡住,见文末的延伸阅读。

接下来值得看的是两件还没落定的事:512GB 的 Mac Studio 是否在 10 月下旬按新闻稿开卖,以及托管 API 的账单长什么样。Apple 也还没有在正文里给出 65536 上下文下、和 36.73 token/秒同一列的生成速度。那一列出来之前,不要把 8192 的数字说成 100 万上下文的速度。

常见问题

一台 Mac mini 能跑 Muse Spark Open 吗?

不能。Apple 写 NVFP4 权重大约 493GB,加上中间结果,连一台 512GB 的 Mac Studio 都放不下。官方 Mac 路径是两台 512GB 或四台 256GB 的 M5 Ultra Mac Studio。

8160 亿参数是每次推理都在算吗?

不是。这是 MoE。模型卡写 256 个专家,每个 token 激活 8 个,活跃参数大约 420 亿。8160 亿是总参数。

36 token/秒是什么条件?

Apple 的表:四台 M5 Ultra,张量并行,NVFP4,上下文 8192,mlx_lm.benchmark,batch 1,生成 128 个 token。不是 100 万上下文,也不是本文实测。

权重可以拿去商用吗?

Muse Model License 允许很多免费用途,但产品上要标 Built with Muse Spark Open。把模型当 API 卖给第三方,且公司及关联方任意连续 12 个月总收入超过 2000 万美元,要先通知 Meta 并另签协议。自用,以及嵌进自己的产品功能,不走这条约。

4.6 倍是 Muse Spark Open 相对上一代吗?

不是。4.6 倍是单机上 Qwen 3.8 和 Mistral Medium 3.5 的首 token,M5 Ultra 相对 M3 Ultra。Muse Spark Open 没有单机,也没有 M3 的对照行。

这台云端 Mac 留给调用模型的那一侧

Muse Spark Open 的 NVFP4 权重进不了一台云端 Mac mini。16GB 和 24GB 的统一内存在下单时就定死,留给 Xcode、模拟器,以及去调 OpenRouter 或你自己那组 MLX 服务的 Agent。机器是 Apple 芯片上的 macOS,编译和签名走原生工具链,待机功耗低,适合一直开着。你要换的是内存档,不是先去买两台新闻稿里还写着 10 月下旬的 512GB Mac Studio。

看云端 Mac 对比 · 看套餐 · 从首页了解开通