Meta Muse Spark Open，家里是不是要开始需要超级计算机了

Meta带着816B回归开放权重

10 月 15 日，Meta 超级智能实验室公开了 Muse Spark Open（Muse Spark Open）的权重。¹ 它总共拥有 816B 参数，采用 256 个专家中每个 token 激活 8 个的 MoE（Mixture of Experts，专家混合）结构，因此实际参与计算的激活参数为 42B。模型卡显示，上下文长度为 100 万 token，输入支持文本、图像、视频、音频，输出为文本，并用超过 100 种语言进行了训练。² Meta 将这款模型介绍为迄今为止美国推出的最强开放权重模型。开放权重（open weight）指的是可以下载训练好的权重文件来运行，这与连训练数据和代码都公开的开源有所不同。

回顾 Meta 今年的动向，这次公开权重有些出人意料。4 月 8 日，Meta 超级智能实验室的首款模型 Muse Spark 推出时，并没有开放权重。曾凭借 Llama 系列成为开放模型代名词的公司，第一次推出了封闭模型，当时 Meta 只是表示希望下一个版本能够开放。³ 8 月 5 日，Muse Spark 1.2 与终端编程代理 Muse Code 也只以 API 和产品形式推出。⁴ 就这样过了半年，Meta 才拿出了 1.2 的开放权重版本。

Introducing Muse Spark Open, The Most Capable US Open‑Weight Model to DateMuse Spark Open is the most capable US open-weight model to date, and brings leading agentic capabilities to your desktop on Apple M5 Ultra Mac Studios.research.meta.ai

这次发布让我在意的有两点。一是 Meta 口中“在家也能运行”所举出的设备，竟然是苹果的 Mac Studio M5 Ultra。二是 2023 年 Llama 2 时见过的场景，似乎又要重演了。这一期我们依次来看这两点，最后再聊聊由此延伸出的内存话题。

在桌面上确实能跑起来，前提是有两台Mac Studio

Meta博客的说明是这样的：M5 Ultra Mac Studio的GPU最多可以使用512GB统一内存，内存带宽为1.2TB/s。统一内存（unified memory）是CPU和GPU共享同一块内存的结构，因此不受显卡VRAM上限的制约，可以把大模型整个加载进去。把这台机器接两台，就能像拥有1TB统一内存的一台超级计算机那样运作，整个模型都能装进去。¹ Meta用苹果的MLX框架做了优化，在这个配置上运行了Muse Code，还修改了开源长毛象客户端Ice Cubes的iOS代码并完成构建，以及操作DaVinci Resolve逐帧查看视频并进行竖版裁剪，所有这些工作都在设备内部完成。

一台是不够的。Meta写明的标准是两台512GB的Mac Studio，合计1TB。 同一天苹果机器学习研究发布的文章里有具体数字。即便压缩成4比特NVFP4，权重也约为493GB；BF16原始版本超过1.6TB，一台装不下。把两台用雷雳5线缆连接起来，借助macOS 26.2内置的RDMA驱动直接互传内存，生成速度为每秒15.7个token（流水线并行）或25.0个token（张量并行）。连接四台的话能提升到36.7个token。首个token生成需要8.2秒（以两台为基准）。⁵ Meta的模型卡写得更保守：若要用NVFP4运行，至少需要700GB内存；BF16则需要2TB内存。²

并非完全没有办法塞进一台机器里。社区制作的2比特GGUF构建版本只有304GB，可以装进一台512GB的Mac Studio，据报道Hugging Face团队在M3 Ultra 512GB上运行后获得了约每秒18个token的速度。不过2比特是牺牲质量换来的选择，而且如果用满100万token的上下文，仅KV缓存就约为266GB，加上权重就超出一台机器的容量了。⁶ “一台就能跑”这句话用在演示上没错，但用在实际工作中就有附加条件。

用英伟达DGX Spark就更是远远不够了。统一内存为128GB，接两台也只有256GB。⁷ 尽管它去年10月以3,999美元上市，今年2月又因内存不足涨到4,699美元。这台曾被称为个人AI超级计算机的机器，在这个模型面前只有Meta所说的1TB的八分之一。英伟达那边若想把这个量级搬上桌面，就得上搭载GB300的DGX Station。748GB内存，超微（Supermicro）的售价为92,887美元。⁸

Mac Studio那边也不便宜。M5 Ultra机型96GB配置起售价为5,499美元，256GB配置为12,299美元。⁸⁹ 512GB配置要到10月底才单独推出，8月发布时尚未公布价格。而这款机型需要两台。上一代M3 Ultra的512GB配置今年3月因内存芯片短缺停售，据报道澳大利亚的二手货甚至卖到了超过6万美元。¹⁰ 所以“在桌面上能跑起来”这句话是对的。只不过附加条件是，那张桌面上要摆着两台单价远超1万美元的机器。

token速度的上限由内存带宽决定

我来用数字拆解一下Meta写下“1.2TB/s足以在每个token需要时读取所需的碎片”这句话的理由。MoE模型在生成一个token时，只读取被激活的参数。42B若以4比特存储，每个token约需读取21GB。内存带宽若为1.2TB/s，1秒内最多能读取57次这21GB，忽略其他所有开销后的理论上限就是每秒57个token。苹果用两台机器实测得到的25个token，大约是这个上限的一半，其余的开销花在读取KV缓存、路由以及两台机器之间的通信上。把同样的计算套用到DGX Spark上，由于带宽为273GB/s，上限是每秒13个token。即便权重能装进去，速度也就是这样。

这个计算说明了一件事。816B参数中只用到42B，所以计算量和42B模型相近，但内存里却必须把816B全部装进去。MoE是一种节省计算量、却要求更多内存的结构。 因此，在家里运行这个量级的模型，首先碰到的问题不是GPU性能，而是内存容量和带宽。 这正是苹果以512GB统一内存作为卖点进入这个赛道的原因，也是内存不足的问题会在本文后面再次出现的原因。

那种规格个人为什么需要的疑问

我在这个场景里想起了智能手机摄像头。高端智能手机搭载那种摄像头，曾经也有过“个人为什么需要”的说法。现在看看，大家都人手一部。

iPhone Duo也是同样的模式。在9月发布会上，1,999美元的价格引来不少“太贵了”的评价。由于之前传闻会高达3,000美元，也有人觉得比预想便宜，但它依然是史上最贵的iPhone这一点没有变。¹¹韩国售价从329万韩元起，今天10月16日开始预订，23日正式发售。¹²在美国，今天早上预购一开通，首发日的配货量几分钟内就被抢空，预计发货日期也从11月末推迟到了12月。¹³当然，也有观察指出初期生产量比平时更少，这意味着售罄并不能单独证明需求旺盛。但人们为一件被说贵的产品排队这一事实依然存在。我认为这种供应不足不会只发生一次。

于是产生了一个疑问：真正的超级计算机进入每个家庭一台的时代，真的会到来吗？我目前还是保留一个问号。不过我记得“那种规格个人为什么需要”这种疑问，过去是怎么收场的。

Llama 2 开启的大开发时代

Meta 的开放模型政策对 LLM 开发产生的影响很大。2023 年 2 月，第一代 Llama 只向研究者开放，到了那年 7 月，Llama 2 连商业使用都允许了，局面由此改变。¹⁴ 之后出现的早期模型中有相当一部分，从 Llama 的模型卡到结构、推理代码都原样照搬。中国 01.AI 的 Yi-34B 被发现只是在 Llama 结构上改了两个张量名称，公司承认了失误并把名称改了回去，¹⁵ 韩国 Upstage 的 SOLAR-10.7B 则在模型卡中直接写明是在 Llama 2 架构之上构建的。¹⁶ 欧洲那边也不例外。因为用的是同一套框架，所以能立刻搭载到 llama.cpp 这类工具上，再在这个工具之上又诞生下一个模型。我把那段时期称为 LLM 大开发时代。

我认为这次公开可能会再度唤起那一幕。推理引擎方面，从公开首日起，SGLang、vLLM、TensorRT-LLM、Transformers、MLX、llama.cpp、Unsloth 就已接入，针对 AMD、苹果、英特尔、英伟达芯片的优化也一并上线。权重不仅可以在 Hugging Face 上获取，在亚马逊 SageMaker、谷歌云 Model Garden、微软 Foundry 上也能拿到，而通过 API，Baseten、Fireworks、Groq、Modal、Nebius、OpenRouter、Together AI 都在首日就开放了接口。¹ 2023 年时是社区事后跟进搭建的连接，这一次 Meta 在公开之前就全部铺设好了。接下来出现的模型，将默认以这种工具兼容性为起点。

“美国最”这一修饰语指向何处

Meta 之所以在“最出色的开放权重模型”前面特意加上“出自美国”，看一眼模型卡里的对比表就明白了。比较对象全都是开放权重模型，其中体量相近的是阿里巴巴 Qwen3.8（2.4T，激活 95B）、智谱 GLM 5.3、月之暗面 Kimi K3。² Kimi K3 是 7 月发布的总参数量 2.8T 的模型。¹⁷ 我摘几行 Meta 公布的表格过来看看。需要留意的是，这是 Meta 自己挑选的基准测试、由 Meta 自己跑出的结果。

基准测试	Muse Spark Open	Qwen3.8	GLM 5.3	Kimi K3
AA Intelligence Index	39	40	45	44
JobBench	61.8	52.7	61.4	54.3
MCP-Atlas（工具使用）	89.2	84.5	84.2	82.3
Terminal-Bench 2.1	76.4	82.0	83.9	85.0
GPQA Diamond	89.0	93.5	91.7	93.5

在工具使用和业务型基准测试上领先，但在综合指数以及终端、科学类问题上落后于三个中国模型。也就是说，“美国最”这句话并没有说错，但这也意味着比较对象从一开始就是中国的开放模型。 我认为 Meta 重新回归开放权重的原因也在于此。过去一年里，下载使用开放模型的开发者们一直在哪个国家的模型之上工作，Meta 不可能不知道。完整的评测报告目前还没有发布。¹

“开放权重”这个说法所附带的条件

与 Llama 2 时期不同的地方也要看到，那就是许可证。Meta 是以 Muse Model License 发布的，附带了几项条件。产品界面或文档中必须标注“Built with Muse Spark Open”字样，如果以该模型为基础、通过 API 向他人提供服务的业务在 12 个月内营收超过 2,000 万美元，就必须与 Meta 另行签约。内部使用、研究、以及用于自家产品的情形则不受此条件约束。凡是使用该模型或其输出进行训练、微调、蒸馏而得到的模型，一律视为衍生物。² 这不是开源，而是开放权重。Llama 当初也没有被 OSI 认定为开源，所以这并不是什么新鲜事，¹⁴ 但如果不了解这个条件就动手做产品，日后是会出问题的。

体量级别变了，1T 成了标配

816B 看起来是个很大的数字，但在今年的开放权重版图里并非如此。Kimi K3 是 2.8T，Qwen3.8 是 2.4T。总参数量在 1T 上下成为开放权重模型理所当然的数字，其中只有数十 B 被激活的设计成为默认选项。 Muse Spark Open 激活 42B，Qwen3.8 激活 95B。²¹⁷

把前面的计算再拿回来看，这种设计对硬件要求的不是算力，而是内存。激活 42B 的话，计算量只是中型模型的水平，但 816B 的权重必须全部放在内存里，再加上使用 100 万 token 上下文时 KV 缓存又要占用数百 GB。一个模型所需要的内存，在过去两年里从数十 GB 级别上升到了 1TB 级别。随着在本地运行这些模型的人越来越多，就会出现个人和小型组织各自购入两台 512GB 机器的局面。我把这次发布看作是又一次把内存短缺问题推向台前的起点。

内存谁来供应

内存现在是最难搞到的零部件。TrendForce 7月的调查认为，三季度通用DRAM合约价格将比上一季度再上涨13~18%。涨幅收窄的原因不是供应放宽了，而是因为价格已经涨到PC和智能手机客户无法再承受的地步了。¹⁸ 产品端也能看到痕迹。苹果在3月因为内存芯片短缺下架了512GB的Mac Studio，直到现在才重新上架，英伟达也因为同样的原因上调了DGX Spark的价格。⁷¹⁰

对韩国读者来说最贴近的数字在10月8日公布了。三星电子三季度暂定营业利润为107.4万亿韩元。单季营业利润首次突破100万亿韩元，营收195万亿韩元，营业利润率达55%。这是用于英伟达下一代GPU的HBM4营收上涨以及通用DRAM价格上涨的结果。同一家公司内部也能看到相反的方向。负责智能手机和家电的设备部门，因为内存价格上涨导致亏损幅度扩大，券商预计损失规模在2万亿韩元左右。¹⁹ 卖内存的一方创下历史最高利润，而买内存来做产品的一方，即便是同一家公司，也在亏损。这和iPhone Duo缺货属于同一种故事。在数据中心疯狂扫货HBM（高带宽内存）的同时，供应短缺的状态下“为什么需要那种规格”这样的疑问一旦消失，价格就没有下跌的空间了。

Oswarld视角

我桌上有一台 M2 Max 64GB Mac Studio，作为推理服务器运行。我在上面跑着 30B 级别的模型，连接到 MacBook 上使用。用这台机器想跑 Muse Spark Open 根本不可能。但即便如此，我工作中相当大一部分内容，仍然是在这种规模的机器上完成的。老生常谈，但并不是每个人、每件事都需要超级智能。每种工作和环境，都有与之相匹配的模型。整体规划和编排交给前沿模型，耗时长、重复性高的作业则交给更便宜的开放模型来处理。

正因如此，苹果在同一篇文章中给出的另一组数字也让我在意。27B 的密集模型，在单台 M5 Ultra 上使用 68GB 内存，可以跑到每秒 19.7 个 token。⁵ 家用级别的体量，仍然停留在这个档位。这次发布所描绘的图景，更接近家庭与组织彼此分化的方向。家庭用几十 GB 内存配 30B 级模型，组织用 1TB 内存配 1T 级模型。

所以，比起“每个家庭一台超级计算机”，我更先看到的是另一边——公共机构的封闭网络环境。我在设计封闭网络项目时，会预估6到12个月后将问世的开放权重模型的水平，据此来确定规格，前提始终是模型的能力只会不断往上走。这次发布，把这个预估的刻度又往上调了一格。那些无法将数据对外输出的组织，第一次可以把“在自家机器上运行接近前沿水平的模型”这个选项，放进一份切实可行的预算方案里。两台总价超过 1 万美元的机器，对个人而言是一笔不小的钱，但与一台 9 万美元的 DGX Station 或 GPU 服务器的预算相比，只是个小数目。

我还不确定自己会不会把它搬进家里。但“个人为什么需要那种规格”这个问题的保质期，比想象中要短——智能手机已经证明过这一点。

结语

Meta 带着开放权重回来了，而基准线是两台 Mac Studio 和 1TB 内存。问题是，内存供应的速度跟不上这条基准线变得理所当然的速度。

---

💬 读者您在家里或办公室用什么机器跑什么模型？还是依然属于“为什么需要那种配置”的那一派？请在评论区告诉我们。

📨 如果您身边有人正在考虑在本地跑模型，请把这篇文章分享给他们。

参考资料与延伸阅读

作者 安光涉（Oswarld） 现任世宗大学兼任教授，INLEVEL9 战略顾问。职业经历、研究、著作与近期活动会持续更新在作者简介。 最新动态 · 2026年7月：HEMA-2: A Consolidation-Aware Tri-Memory Architecture with Multi-Channel Scheduling for Lifelong Conversational AI。

📝 术语说明

<<<OZ_BODY>>>

• 开放权重（open weight）：将训练好的模型权重文件公开，供他人下载、运行、微调的方式。并不意味着训练数据和训练代码也一并公开，与 OSI 标准的开源许可证也不同。
• MoE（Mixture of Experts，专家混合）：在多个专家子网络中，每个 token 只挑选其中一部分来计算的结构。全部参数都必须加载到内存中，但计算量是按激活参数来算的。
• 激活参数（active parameters）：MoE 结构中处理一个 token 时实际参与计算的参数数量。Muse Spark Open 的 816B 参数中，激活参数为 42B。
• 统一内存（unified memory）：CPU 和 GPU 共用同一个内存池的结构。这也是为什么 GPU 能在不受显卡 VRAM 容量限制的情况下，整个加载大模型的原因。
• 内存带宽（memory bandwidth）：每秒能从内存中读取的数据量。在生成阶段，每个 token 都要重新读取一次激活权重，因此这个数值决定了每秒生成 token 数量的上限。
• NVFP4：英伟达定义的 4 比特浮点格式。相比 BF16，能将权重容量压缩到约四分之一。
• KV 缓存（KV cache）：用于保存已处理 token 的键、值的内存空间。上下文越长，除权重之外占用的内存也越多。
• 张量并行与流水线并行：将模型拆分到多台机器上的两种方式。流水线并行按层的前后顺序切分，张量并行则在每一层内部按宽度方向切分，使每台机器都分担所有层中的一部分。
• RDMA（Remote Direct Memory Access）：一台机器无需经过 CPU，直接读写另一台机器内存的方式。从 macOS 26.2 起，在雷雳 5（Thunderbolt 5）上开始支持。
• HBM（High Bandwidth Memory，高带宽内存）：用于数据中心 AI 加速器的堆叠式内存。随着内存制造商将产能转向这一领域，普通 DRAM 的供给也随之减少。 <<<OZ_END>>>

注释

1. Meta Superintelligence Labs，Introducing Muse Spark Open, The Most Capable US Open-Weight Model to Date，2026-10-15。两台 Mac Studio 配置、推理引擎与部署路径、完整评估报告未公开。 ↩ ↩² ↩³ ↩⁴

2. Meta，Muse-Spark-Open-816B-A42B 模型卡，2026-10。256 个专家·8 个激活、输入模态、100 种以上语言、NVFP4 最低 700GB·BF16 2TB、Muse Model License 条款（署名义务·MaaS 营收 2,000 万美元标准·衍生物定义）、基准测试对比表（Qwen3.8-2.4T-A95B·GLM 5.3·Kimi K3 等）。 ↩ ↩² ↩³ ↩⁴ ↩⁵

3. The Next Web，Meta’s Muse Spark is MSL’s first model，2026-04-08。首款 Muse Spark 的非公开发布、后续版本公开意向。 ↩

4. Meta Superintelligence Labs，Introducing Muse Code and Muse Spark 1.2，2026-08-05。Muse Code·Meta Model API 路径，未提及权重公开。 ↩

5. Apple Machine Learning Research，Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio，2026-10-15。NVFP4 约 493GB·BF16 1.6TB 以上，2 台 15.74/24.99 tok/s，4 台 36.73 tok/s，首个 token 耗时 8.2 秒，macOS 26.2 RDMA，27B 密集模型单台 19.69 tok/s·68GB。 ↩ ↩²

6. ModelFit，Meta Muse Spark Open on a Mac: 304GB 2-bit Build Needs a 512GB Mac Studio，2026-10-16。ggml-org GGUF 容量（Q2_K 304GB·Q4_K_S 470GB·Q8_0 872GB），Hugging Face 团队的 M3 Ultra 512GB 约 18 tok/s，1M 上下文 KV 缓存约 266GB。二手来源。 ↩

7. Toolhalla，NVIDIA DGX Spark Complete Guide 2026；Implicator，Nvidia ships DGX Spark at $4K。128GB 统一内存，带宽 273GB/s，两台连接时 256GB，2025-10-15 发售价 3,999 美元，2026-02 因内存短缺定价 4,699 美元。 ↩ ↩²

8. TechRadar，Nvidia GB300 DGX Station desktop PC goes on sale for almost $91,100，2026-09-01。Supermicro 售价 92,887.47 美元，748GB（CPU 496GB + HBM3e 252GB），Mac Studio M5 Ultra 256GB 售价 12,299 美元。 ↩ ↩²

9. Thurrott，Apple’s Mac Studio is Being Refreshed With M5 Ultra and M5 Max Chips，2026-08-25。起售价 5,499 美元（96GB·1TB），512GB 配置 10 月末上市·价格未公开。 ↩

10. MacRumors，Mac Studio With M5 Ultra Chip and 512GB of RAM Launching in October，2026-08-25。2026-03 因内存芯片短缺暂停 512GB 配置销售。二手价超过 6 万美元的报道见 Man of Many（澳大利亚），Mac Studio M5 Max M5 Ultra。 ↩ ↩²

11. PhoneArena，People thought $3,000 for a foldable was too much and Apple listened，2026-09。起售价 1,999 美元与 3,000 美元传闻。 ↩

12. WikiTree（维基树），苹果公开折叠式“iPhone Duo”……韩国价格“329 万韩元起”，2026-09。韩国价格、10 月 16 日预订、10 月 23 日发售。 ↩

13. AppleInsider，iPhone Duo sells out moments after pre-orders begin，2026-10-16；Macworld，iPhone Duo pre-order live blog，2026-10-16。预订开始后发货日定为 11 月 16～23 日，此后延迟至 12 月。初期供货量低于以往的观察来自 AppleInsider。 ↩

14. Wikipedia，Llama (language model)。2023-02-24 首次公开（非商用研究许可），2023-07 Llama 2 允许商用，OSI 未认定其为开源。 ↩ ↩²

15. South China Morning Post，Chinese tech unicorn 01.AI admits ‘oversight’ in changing name of AI model built on Meta Platforms’ Llama system，2023-11。最初讨论见 Hugging Face 01-ai/Yi-34B discussions。 ↩

16. Upstage，SOLAR-10.7B-v1.0 模型卡，2023-12。明确标注“Built on the Llama2 architecture”。 ↩

17. Sébastien Dubois，Kimi K3, Qwen 3.8, and a Week That Reset the Open-Weight Frontier，2026-07。Kimi K3 总参数 2.8T·7 月 16 日公开，Qwen 3.8 于 7 月 19 日发布。二手来源，Qwen3.8 激活参数 95B 以 Meta 模型卡标注为准。 ↩ ↩²

18. TrendForce，AI Server Demand Continues to Support Memory Prices in 3Q26, but Gains Moderate as Consumer Demand Weakens，2026-07-03。通用 DRAM 合约价预计 3Q26 环比上涨 13～18%，消费市场价格接受存在上限。 ↩

19. Money Today Broadcasting（今日货币广播），三星电子，季度营业利润迈入 100 万亿韩元时代（综合），2026-10-08。第三季度临时营收 195 万亿韩元·营业利润 107.4 万亿韩元·利润率 55%，HBM4·通用 DRAM 价格效应，DX 部门预计出现约 2 万亿韩元赤字。 ↩