美国新实验室首战开源:501B 的 Beam 每次只激活 23B,编码 Agent 能跑在自家机器上
2026年10月17日1 次阅读
3 分钟看懂:这是什么,为什么重要
一句话:美国 AI 实验室 Reflection 把自家第一个模型 Beam 的完整权重放了出来——一个 5010 亿总参数、每次只激活 230 亿 的混合专家(MoE)模型,Apache 2.0 协议,上下文 100 万 token,专门为写代码和跑 Agent 打造。
为什么值得单独写一篇:真正"美国本土出品、旗舰体量、还把权重完整开放"的模型并不多。过去这类第一梯队模型基本只给 API,你只能隔着网页用。Beam 不一样——权重文件本身可以下载、部署、量化、微调,模型这东西第一次真正交到你手里。10 月 16 日,这批权重才正式落到 Hugging Face 上,属于新鲜事件。
这是什么:把前沿大模型的"钥匙"交给你
Reflection 是一家美国新成立的 AI 实验室,Beam 是它对外发布的第一个开放权重模型。发布当天,Hugging Face、Ollama、Google Cloud、AWS 等平台几乎同时上线了支持,属于一次"全平台同步"的开源动作。
对普通读者来说,开放权重和"只给 API"的区别,可以这样理解:
- 只给 API:模型在别人家机房,你每问一句都要连网、按量付费,模型内部你碰不到。
- 开放权重:模型文件像一个大压缩包,下载到你自己的机器上,你可以自己改、自己调、自己接进公司的私有系统,数据也不用出内网。
Beam 走的是后一条路,而且体量是"前沿级"的。
参数与能力一览(把每个数字讲成人话)
- 501B 总参 / 23B 激活:模型里装了很多"专家",一次推理只叫醒其中一小部分干活,所以体量很大但跑起来相对省力。
- 52 层,每层 256 个专家,每次挑 8 个:这是 MoE 的常见结构,专家越多、分工越细。
- 100 万 token 上下文:一次能"记住"的材料非常长,适合塞进整个代码仓库或超长日志。
- 纯文本进、纯文本出:不做图片/语音,专注你打字和它写代码这类活儿。
- Apache 2.0:商用、改造、再分发都很宽松,这是它比很多"开放但有限制"的模型更实在的地方。
- 5 档推理强度(low / medium / high / xhigh / max),外加跨轮保留思考的
preserve_thinking和专用工具调用语法——这些就是给 Agent 场景准备的:多轮工具调用、长任务不掉链子。 - 官方还配了一个 Rust 写的推理框架,号称能把 Beam 的性能榨到最好。
官方口径的性能(数据来自 Reflection 团队,BF16 版本)
| 测试项 | Beam | 说明 |
|---|---|---|
| SWE-bench Verified | 81.6% | 真实软件工程修 bug |
| Terminal Bench v2.1 | 80.1% | 终端/命令行操作 |
| LiveCodeBench | 88.3% | 竞赛级代码题 |
| GPQA Diamond | 90.6% | 专家级科学问答 |
| AIME 2026 | 97.7% | 数学竞赛 |
| HLE(带工具) | 51.1% | 高难度综合推理 |
Reflection 自己给的定位是:编码和 Agent 任务上与 GLM 5.2 竞争、逼近 Qwen 3.8-Max;在绝对能力上,像 Kimi K3 这样的开放模型仍然更强,Beam 的卖点是推理时更省、更快。注意,这些数字是厂商官方口径,第三方独立复测出来之前,可以当作参考而不是定论。
想自己跑,要什么硬件
官方给出的换算很直白:
- 权重一共 501B 参数,BF16 格式存下来接近 1TB,个人很难扛。
- 更实际的是 NVFP4 版本,压到约 280GB,质量基本保住。
- 2×B200(共 360GB)能勉强装下,但要留出空间给长上下文和并发,官方建议 4×B200;也可以上 2×B300(每块 288GB),或 8×RTX Pro 6000。
- 没有 Blackwell 系列显卡?那就退回用云端的 serverless 推理,不用自己买机器。
一句话:这是给"有自己机房或云预算"的团队准备的,不是个人笔记本能直接跑的玩具。
怎么用:从零到跑起来
最省事的方式是 transformers,一行就起:
from transformers import pipeline
pipe = pipeline("text-generation", model="reflection/Beam-1.0-501B-A23B")
- Day-0 就支持:transformers、SGLang、vLLM 三大主流库同步可用。
- 想先试再买:Ollama Cloud 限期免费开放 Beam(做零数据保留),可以直接
ollama run beam:cloud体验。 - 云上一键:Google Cloud、AWS(SageMaker JumpStart / Trainium)也同步做了支持。
适合谁,不适合谁
适合:
- 要私有化部署、数据不能出内网的团队;
- 想自己微调、量化,把模型改成行业专用的人;
- 正在做编码 Agent / 长任务自动化,需要一个"够强又能自己掌控"的底模的开发者。
不适合:
- 只想调个 API 图省事、不想碰部署的个人用户——这类人用现成闭源模型更划算;
- 没有大显存、又想在本地全量跑起来的人——光 BF16 就 1TB。
避坑与注意事项
- 别把"预告"当"已发布"。Reflection 早在 10 月 5 日的官方博客里就介绍了 Beam,但当时明说权重"本月稍后发布"。真正落到 Hugging Face 是 10 月 16 日——这也是本次事件的准确时间点。
- 先看量化版本再下手。个人玩先看 NVFP4/FP8,别一上来就拉 1TB 的 BF16。
- 显卡代际要挑对。NVFP4 需要 Blackwell(B200/B300 一代)原生支持,老一些的 H200 跑不了,得用 FP8 版本。
- 官方数据≠第三方结论。benchmark 是厂家自己跑的,独立榜单出来前留个心眼。
参考来源
- Reflection 官方博客:https://reflection.ai/blog/introducing-beam
- Hugging Face 官方博客:https://huggingface.co/blog/reflection-beam
- Ollama 官方博客:https://ollama.com/blog/reflection-beam
- Hugging Face 模型仓库:https://huggingface.co/reflection/Beam-1.0-501B-A23B
- Google Cloud 博客(Day-0 支持):https://cloud.google.com/blog/topics/ai-infrastructure/day-0-support-with-5x-perf-for-reflection-beam