大语言模型

不会太久,Meta 把旗舰级模型权重全部开放

2026年10月16日0 次阅读
## 和 AI 历史上大多数开源模型不同,Muse Spark Open 是「旗舰体量 + 权重全放」 ## 一句话:816B 的 MoE,每次只用 42B,权重随便下载 ## 两台 Mac Studio 组网真的能推理 ## Meta 在打什么算盘 ## 这次开放对开发者生态的实际意义

这是什么:Meta 把旗舰规模的模型权重直接开放了

10 月中旬,Meta 发布了名为 Muse Spark Open 的开放权重模型,并且在官方公告里给了个相当高的定位——「迄今最强的美国开放权重模型」。这不是 Meta 第一次开源:8 月份它开源过一个 30B 的小模型 Muse Glimmer,主打本地部署。而这次的 Muse Spark Open 属于 Spark 系列,规模直接拉到旗舰级,主体是一个约 816B 总参数、每个 token 激活约 42B 的多模态模型。

对普通读者来说,这件事一句话概括:过去你要用这种体量的模型,只能等官方 API;现在权重文件本身就能下载、自己部署、自己改。这就是「开放权重」的意义——它不是产品发布,而是把模型这东西本身交到你手里。

data center

Muse Spark Open 的权重以 BF16 和 NVFP4 两种格式开放,BF16 版存下来就得 1.5TB 起步(图源:Unsplash)

参数配置:几个数字都是什么意思

先给不熟悉模型参数结构的读者做个通俗解释。816B 是「总参数量」,42B 是「每个 token 实际计算时用到的参数量」。Muse Spark Open 用的是 Mixture-of-Experts(MoE,专家混合)架构:模型里每一层塞了 256 个「专家」网络,但每次计算只挑 8 个出场。你可以把它理解成一个 816 人的公司,每个任务只会叫上其中 40 人左右干活,其他人待命——存储要按 816 人算,速度按 40 人算。

几个关键规格:

  • 总参数:约 816B,激活约 42B(256 个专家选 8 个)
  • 输入:文本、图像、音频、视频都能接(同一个模型既能看截图、也能听语音、还能看录屏)
  • 输出:文本
  • 上下文窗口:最高 100 万 token,图像、音频、视频和文本共用同一个窗口
  • 权重格式:BF16 和 NVFP4 两种,后者专为 NVIDIA Blackwell 系列 GPU 做了 4-bit 量化

1M 上下文本身不算新鲜,但要注意它的前提:这个窗口里的多媒体内容也算 token。也就是说你可以丢进去一整个小时的会议录音(按每秒约 12.5 个音频 token 算,一小时约 4.5 万 token)加上几十张架构图,还在窗口容量之内。

想跑起来要多硬的硬件:从数据中心到账桌

先说数据中心部署:BF16 版需要 4 台 8 卡 H200 服务器(张量并行)才能用 Transformers 跑起来;NVFP4 版则一台 8 卡 B200 节点就够。这是「机构级」的门槛。

更有意思的是「个人桌面」路线。llama.cpp 已经集成了 2-bit 量化版本,oMLX(mlx-lm)的 3-bit 和 4-bit 量化也现成可用。Hugging Face 官方在一台 M3 Ultra(512GB 内存)的 Mac 上实测了 oQ3e 量化:模型占约 344GB 内存,生成速度约 21 token/s——绝对不快,但确实是「一台台式机 Sytem 能跑 816B 模型」这种以前不敢想的事。

一笔账(据 Reuters、VentureBeat 等媒体报道,媒体口径仅供参考):Meta 展示的参考方案是两台配对的 Mac Studio 组网运行,这套组合价格大约在 1 万美元上下。对于数据不能出内网、又要长期用模型的场景,这比长期租用 816B 级别的推理服务更划算。

为什么 Meta 要把这么大的模型开放

一个明显的问题是:Meta 自己已经有线上的 Muse Spark 付费版本(此前 Spark 1.3 的智能指数就紧咬第一梯队),这跟把权重全放出去看起来矛盾。但把这几步放在一条线上看就通了:Muse Spark 1.3 是产品,Muse Spark Open 是生态。

开放权重至少带来三件事:一是吸引那些不放心把数据交给第三方 API 的机构(金融、医疗、政府背景公司)来用 Meta 的模型体系;二是让开发者社区围绕它做微调、量化、工具链——llama.cpp、vLLM、SGLang、oMLX 首发就全支持,这种生态热度是闭源 API 买不来的;三是给「美国最强开放权重」这个位置占个座。此前这个位置长期被各种小一档的开源模型占着,现在 Meta 用 816B 直接把体量标杆拔高了一大截。

能力侧的重点是 agentic coding。官方描述里,这个模型专门针对真实开发工作流训练:读整个代码库、多文件重构、长时间调试会话、跨多步的工具调用,甚至可以边看屏幕截图或录屏边改代码。换句话说,它的目标用户不是「聊天用户」,而是想让 AI 替自己干完整开发任务的人。

适合谁,不适合谁

适合:

  • 想自部署前沿模型、不想受制于 API 的企业和实验室——NVFP4 版一台 B200 节点能跑
  • 本地化部署要求极高的行业(数据不能出内网那种),两台 Mac Studio 组网是个新选项
  • 研究大规模 MoE 架构的研究者——权重直接下载,架构细节官方全公开

不适合:

  • 想在自己笔记本上完整跑的个人玩家——就算极低 bit 量化也要几百 GB 内存,Mac mini 级别的设备基本无缘
  • 只想找个 API 直接调的开发者——那不如直接用 Meta 的线上 Muse Spark 版本,没必要自找麻烦
  • 追求最快响应速度的场景——42B 激活的桌面量化版生成速度大约 20 tok/s 上下,实时对话会嫌慢

怎么开始用

权重已经在 Hugging Face 上,仓库名是 meta-models/Muse-Spark-Open-816B-A42B(NVFP4 版在同系列另一个仓库)。推理侧支持矩阵首发就相当齐:Transformers 原生支持,llama.cpp 已进预编译二进制,vLLM 和 SGLang 有官方部署配方,oMLX/mlx-lm 面向苹果芯片。llama.cpp 用户一条 llama serve -hf ggml-org/Muse-Spark-Open-816B-A42B-GGUF:Q2_K 就能起本地服务。

一句话收尾:816B 开放权重这件事不一定马上改变你我的日常,但它把「开放权重模型的天花板」抬到了旗舰级——接下来几个月,看其他家跟不跟。

参考来源

评论

0 条已公开
登录或注册后可以参与评论。

正在加载评论...