蚂蚁开源 560B「灵光同款」大模型：1M 上下文、每 token 只激活 25B，能干长活但更烧 token

2026年10月30日0 次阅读

LLM · 开源权重

Ling-3.1-flash-1019 与 base 权重同步放出，MIT 许可免费下载；能力涨了，token 账单也涨了

📅 2026-10-30 ｜ 📊 来源：Hugging Face 官方模型卡 + 多家媒体交叉印证｜分类：大语言模型

三分钟看懂这版模型

一句话先说结论：蚂蚁集团旗下的百灵团队把 Ling-3.1-flash-1019 的权重放出来了——5600 亿总参数、每个 token 只激活 250 亿、上下文能塞到 100 万 token，用的是 MIT 许可，权重免费下载。同时他们还放出了没做后训练的基础模型 Ling-3.1-flash-base。

一句话记住这版模型 用 5600 亿参数的「仓库」装能力，每次只搬 250 亿的「货」出来算，所以能装下 100 万 token 的上下文还不至于算到天亮。代价是它答得更多，也更贵。

为什么这件事值得看

过去半年，开源大模型的竞争重点从「谁的分数高」慢慢挪到了「谁能在真实任务里一直干下去」。个人助理、自动订票、跨软件跑流程这类活儿，一次对话根本干不完，需要模型连续几十步不出错，还得记得住前面几万字的内容。

Ling-3.1-flash-1019 就是冲着这个场景去的。它是 9 月 30 日那版 Ling-3.1-flash 的升级版，主要变化不是换架构，而是补后训练——把推理、工具调用、多步骤执行的短板往上抬。官方口径里，这版是配合蚂蚁自家的个人 AI 助理「灵光 2.0」的需求做的：灵光 2.0 在 10 月 27 日发布，主打跨会话记忆、长程任务调度和一台独立云主机，这类产品最怕的就是模型干到一半忘了自己在干什么。

对谁有用：想在自己机器上部署一个「能连续干活」的开源模型的人；做 Agent 产品、被 API 账单压得难受的团队；需要把模型放进私有环境、不能走公有云的机构；以及想看国产开源模型现在的真实水平的人。

硬规格：5600 亿的壳，250 亿的芯

这代用的是混合线性 MoE 架构，名字叫 BailingMoeV3。核心数字如下（全部来自 Hugging Face 官方模型卡）：

项目	数值
总参数	560B（约 5600 亿）
每 token 激活	25B（250 亿）
路由专家	512 个，每次激活 8 个 + 1 个共享专家
注意力层	63 层 KDA 线性注意力 + 9 层门控 MLA，比例 7:1
稠密层	4 层
隐藏维度	4096
词表	157,184
上下文	100 万 token
许可	MIT
训练精度	FP8

混合线性 MoE 架构：63 层 KDA 线性注意力 + 9 层门控 MLA，512 个路由专家每 token 激活 8 个（图源：Hugging Face / inclusionAI）

两个关键设计值得用大白话说一下。

第一，为什么总参 5600 亿却只激活 250 亿。 MoE 就是把一个大网络拆成一堆「专家」，每个 token 进来只找最对口的 8 个专家算，其余的不动。所以显存要装下全部 5600 亿参数，但算力只花 250 亿的量。装载成本高，运行成本低。

第二，为什么是 7:1 的注意力配比。 KDA 是一种线性注意力，处理长文本时计算量随长度线性增长，不像标准注意力那样平方级爆炸；但线性注意力记细节的能力弱一些。所以它留了 9 层门控 MLA 做「精读」，其余 63 层用便宜的方式扫全文。这就是 100 万 token 上下文还能跑得动的原因。

成绩：涨得不夸张，但涨在了对的地方

第三方评测机构 Artificial Analysis 的智能指数 v4.3.2 给了 44 分，上一代是 41 分。截至 10 月 27 日，这个分数在同规模开放权重模型里排第 4。

更有意思的是分项——涨得最多的都不是考试题，而是「干活」的题：

评测	上一代	1019 版	说明
AA 智能指数 v4.3.2	41	44	综合
AA-Briefcase v1.1	约 1398 Elo	1521 Elo	复杂知识工作
AutomationBench-AA	62%	68%	流程自动化
Humanity's Last Exam	39%	43%	跨学科难题
CritPt	18%	26%	物理推理
SciCode	54%	57%	科学计算代码

Ling-3.1-flash-1019 在 Artificial Analysis 智能指数上的成绩

官方模型卡公布的 AA 智能指数成绩：Ling-3.1-flash-1019 拿到 44 分（图源：Hugging Face / inclusionAI）

AutomationBench 涨 6 个点、CritPt 涨 8 个点，这两个是真正能感觉到的差别——前者衡量「能不能把一串操作按顺序做对」，后者衡量「能不能推明白物理场景」。基础模型这次没有单独公布智能指数，官方只放了几张能力对比图。

代价：它更能干，也更烧钱

这部分是很多报道一笔带过、但对做产品的人最要命的地方。

Artificial Analysis 的统计显示，1019 版在智能指数的每项评测任务上平均输出约 14.5 万个 token，比上一代多出 40% 以上；单任务平均成本从 1.01 美元涨到 1.49 美元，涨幅接近 48%。

换句话说：同样的任务，它做得更好，但要多说四成的字、多花近五成的钱。这在聊天场景里无所谓，在 Agent 场景里就是生死线——一个 7×24 挂着盯价格的助理，一天可能跑几百上千次任务，成本差 48% 直接决定这个服务能不能收得起费。

百灵自己的解法是给三个思考档位（推理开关 + 采样参数），简单任务别开满。模型卡的示例里也是让开发者在 enable_thinking 上做选择，而不是一律开最大。

基础模型：这次更值得开发者关注的反而是它

Ling-3.1-flash-base 是后训练之前的原始权重，用 BF16 放出（训练时用的是 FP8，发布的是权重合并后的 BF16 版本）。它不能直接拿来聊天，但可以继续做预训练、领域微调、强化学习。

官方把它和两个「更大的对手」放在一起比：DeepSeek-V4-Pro-Base（1.6 万亿总参 / 490 亿激活）和 MiMo-V2.5-Pro-Base（1.02 万亿总参 / 420 亿激活）。在 8 个领域共 47 项基准里，Ling-3.1-flash-base 拿了 32 项第一——参数量只有对手的三分之一到一半。

项目	Ling-3.1-flash-base	DeepSeek-V4-Pro-Base	MiMo-V2.5-Pro-Base
总参数	560B	1.6T	1.02T
每 token 激活	25B	49B	42B
MATH500	79.40	68.20	57.20
LongBench	51.90	17.70	15.66

LongBench 那一行的差距大得有点刺眼，这跟 7:1 的注意力设计是自洽的：长文本本来就是它的设计目标。不过要说清楚，这些数字是蚂蚁自己测的，目前没有第三方复现。

怎么用：三条路，门槛差很多

路线一：SGLang（官方推荐）。 官方给了现成镜像，H200 上 8 卡 TP8+EP8，或者 GB300 上 4 卡 TP4+EP4：

docker pull lmsysorg/sglang:dev-ling-3.1-flash

docker run --gpus all --network host --ipc=host --rm \
  lmsysorg/sglang:dev-ling-3.1-flash \
  python3 -m sglang.launch_server \
    --model-path inclusionAI/Ling-3.1-flash \
    --tp 8 --ep 8 \
    --speculative-algorithm NEXTN \
    --host 0.0.0.0 --port 30000

调用时记得把 enable_thinking 打开，采样参数用官方推荐的 temperature=1.0、top_p=0.95、top_k=20。

路线二：vLLM。 需要装 vLLM 的 vllm 分支，几个参数别漏：--tool-call-parser ling3、--reasoning-parser ling3、--mamba-cache-mode align，再加 MTP 投机解码（3 个 token）。这套配好之后，工具调用和思考链的解析才是对的。

路线三：直接用 API。 如果只是想把模型接进产品、不想碰显卡，走 OpenRouter 之类的聚合平台最省事。按智东西的报道，1019 版每百万 token 输入 0.30 美元、输出 0.90 美元、缓存读取 0.06 美元。

硬件门槛要说实话：FP8 权重下载体积在 570GB 量级，单机装不下就别想了，8 卡 H200 是官方给的基准配置。社区有人试过两张 Spark 跑 3.03bpw 的极端量化版，那是折腾向的玩法，不是生产配置。

适用场景与不适用场景

适合：

需要百万级上下文的一次性长文档处理：整本手册、整仓库代码、几小时的会议记录
个人 Agent / 长程任务：跨会话记忆、定时跟进、多步工具调用
有私有数据、必须自己部署的机构：MIT 许可基本没有商用限制，改完也不用开源
想基于一个强中文底模做领域后训练：base 权重就是给这个用的

不适合：

单卡消费级显卡用户：5600 亿参数不是给你本地跑的
高频、低价值、要求极低延迟的调用：每次几十万 token 的输出，账单会先崩
需要极强纯代码能力的场景：这一版主打的是 Agent 和推理，编码不是它的宣传重点
需要开箱即用聊天界面的普通用户：这是权重，不是产品

常见错误与避坑

以为 1M 上下文等于 1M 都好用。 上下文窗口是「装得下」，不是「都记得住」。长文本能力要看 LongBench、RULER 这类检索型评测，实际使用中把关键信息放在开头或结尾仍然更稳。
不开思考模式就对比分数。 官方所有分数都是在 enable_thinking=true 下测的，关掉之后差距会很大。
用通用的 tool parser。 必须用 ling3 这两个 parser，否则工具调用和思考链的解析会错位，表现为「模型说要调工具但调不出来」。
拿 FP8 权重往 BF16 环境里塞。 1019 版放出的是 FP8，base 是 BF16，两者不能混着配环境。
只看智能指数就下结论。 44 分在同规模里第 4，但 token 效率是它的短板。选模型要看「每完成任务多少钱」，不是「每百万 token 多少钱」。

成本与时间预估

自建：8×H200（或 4×GB300）起步，按云上 H200 时价粗算，一天持续跑就是四位数美元级别；适合有稳定流量或有合规要求的团队。
API：输入 0.30 / 输出 0.90 美元每百万 token。按官方评测口径单任务约 14.5 万输出 token 算，一次复杂任务约 0.13 美元起，加上输入和重试，实际在 0.2~0.4 美元之间。
上手时间：有 GPU 集群和 Docker 经验的话，跑通 SGLang 官方镜像是半小时级；要做 vLLM + 工具调用，半天到一天。

给新手的第一步

先别急着下载 570GB 权重。更划算的顺序是：找一个提供这个模型的 API 平台，用你自己最熟的一个真实任务（比如「读完这份 30 页 PDF，列出所有金额和对应条款」）跑三遍，记下实际花掉的 token 和钱。这一步能告诉你两件事：它到底比你现在用的模型强多少，以及你能不能付得起。

确认值得之后，再考虑下载 base 权重做微调——那才是 MIT 许可真正值钱的地方。

先说清楚数据口径 架构、规格、部署参数、base 模型对比数据来自 Hugging Face 官方模型卡；AA 智能指数、token 消耗、单任务成本、API 定价与「灵光 2.0」的关联，来自智东西、Aube、艾瑞网等媒体转述，属基于多家媒体转述整理。蚂蚁官方未对全部数字逐条确认。

参考来源

Hugging Face 官方模型卡：https://huggingface.co/inclusionAI/Ling-3.1-flash-1019
Hugging Face 基础模型：https://huggingface.co/inclusionAI/Ling-3.1-flash-base
智东西（2026-10-28）：https://zhidx.com/p/605139.html
Aube（2026-10-28）：https://aube.news/en/article/ant-group-open-sources-560b-parameter-model
艾瑞网（2026-10-28）：https://news.iresearch.cn/content/202610/571882.shtml
OrcaRouter 权重与部署说明：https://www.orcarouter.ai/blog/ling-3-1-flash-1019-open-weights

本文规格、架构、部署参数、base 模型对比数据取自 Hugging Face 官方模型卡；AA 智能指数、token 消耗与单任务成本、API 定价、灵光 2.0 关联等背景，基于多家媒体转述整理（智东西、Aube、艾瑞网），官方未逐条确认的部分已在正文中标注口径来源。

本文由加装AI助手整理发布｜数据来源：Hugging Face 官方模型卡、智东西、Aube、艾瑞网
规格与部署参数以官方模型卡为准；第三方评测分数与成本数据存在口径差异，请以实测为准。