2.8 万亿参数的 Kimi K3.1 Pro 真把权重放出来了：1.56TB、能商用，但「开源」两个字得加三个注脚

3分钟看懂：这次放的不是 API，是硬盘里能拖下来的文件

10 月 24 日 Kimi K3.1 Pro 发布时，月之暗面给过一个承诺：完整权重会在 11 月 4 日之前放出来。

11 月 4 日，这件事兑现了。Hugging Face 上的 moonshotai/Kimi-K3.1-Pro 仓库已经公开，private=false、gated=false——不用申请、不用填表、不用等审批，任何人现在就能开始拉文件。官方 X 账号当天发了一句很直白的话：「Releasing the model weights of Kimi K3.1 Pro」。

先说三个数字，你就知道这件事的分量：

• 2.8 万亿：总参数量，MoE 架构，每个 token 只激活 1040 亿。
• 104 万：上下文窗口，1,048,576 个 token。
• 1.56TB：仓库体积，96 个 safetensors 分片。

翻译成人话：这是一台需要机房才能跑的模型，但它的说明书、权重、许可证，全都在你手里了。你不再只能通过别人的 API 去调用它，你可以下载、可以量化、可以微调、可以在自己的机房里跑，也可以拿它的输出去训练别的模型。

这件事对三类人意义完全不同：

• 对做 Agent 产品的团队，多了一个可以私有化部署的旗舰选项，数据不出机房。
• 对做模型的团队，多了一份 3T 级 MoE + 稀疏注意力的完整参考实现。
• 对普通使用者，短期没变化——你大概率还是用 API，但你应该知道：你现在用的这个东西，已经不能被人随手关掉了。

仓库里到底装了什么：把模型卡拆开看

以下数字全部来自 Hugging Face 上的模型卡和仓库 API，不是二手转述。

• 架构：Mixture-of-Experts，93 层，其中 69 层 KDA + 24 层 Gated DSA
• 总参数 2.8T，激活参数 104B，896 个专家，每 token 选 16 个 + 2 个共享专家
• 注意力隐藏维度 7168，96 个注意力头；DSA 索引 32 个头、Top-K 2048
• 上下文 1,048,576 token；词表 160K
• 视觉编码器 MoonViT-V2，4.01 亿参数；输入支持文本 + 图像
• 量化：MXFP4 权重、MXFP8 激活，且是量化感知训练出来的，不是事后压的
• safetensors 统计总量 2,780,110,363,392 个参数

这里最值得说的是那 24 层 Gated DSA。K3 用的是「KDA + Gated MLA」混合注意力，K3.1 Pro 把 24 层全注意力换成了带门控的 DeepSeek 稀疏注意力（Gated DSA）。模型卡里那行小字写得很清楚：这么改是为了让长上下文建模更省。

省到什么程度？vLLM 团队在 11 月 4 日的 day-0 支持博客里给了一个很具体的说法：长上下文时，一次 decode 每层要读的字节数，大约只有稠密 MLA 的四分之一。这句话背后是实打实的钱——KV cache 小了，同样多的卡能塞下更多并发、更长上下文。

为什么值得单独写一篇：开源阵营第一次贴到闭源旗舰的脸上

判断一个开源模型值不值得看，我的标准很简单：它是不是只在自己家的榜上赢。

K3.1 Pro 的成绩单里有几个数，是拿别人的榜、别人的 harness 跑出来的：

• Terminal-Bench 4.0：65.7%，GPT-6 Astra 是 58.2%，Claude Opus 5.5 是 66.4%。差距 0.7 个百分点。
• SWE Marathon v1.1：51.7%，Opus 5.5 是 46.3%，GPT-6 Astra 是 42.5%。
• GPQA-Diamond：94.2%，Opus 5.5 是 93.9%，GPT-6 Astra 是 96.1%。
• BrowseComp：92.1%，GPT-6 Astra 是 91.5%。
• MMMU-Pro（带 python）：90.0%，Opus 5.5 是 89.8%。
• OSWorld V2.1（电脑操作）：79.6%，Opus 5.5 是 81.8%。

也就是说，在一个「让模型自己在终端里干活」的测试上，一个能下载的模型，跟最强的闭源模型只差 0.7 分。这在两年前是不可想象的。

但成绩单里也有难看的一行，而且很关键：

• Program Bench：31.5%。Opus 5.5 是 65.0%，GPT-6 Astra 是 50.0%。

这不是小差距，是两倍。Program Bench 测的是「从零写一个完整程序并通过判定」，属于典型的从 0 到 1 的任务。K3.1 Pro 在「改代码、跑终端、修 bug」这类长程任务上很强，在「凭空造一个新程序」上明显偏弱。如果你要做的是后者，别被 Terminal-Bench 的数字骗了。

另一个值得看的第三方信号来自 Agent Arena（IT之家 11 月 5 日的报道）：K3.1 Pro 在开放权重模型里排第一、全部参评模型第 13。它的评测方式不是让人投票，而是从 1.75 万多次真实 Agent 会话里提取信号——用户有没有确认完成、有没有表扬、有没有纠正、Shell 命令有没有报错。K3.1 Pro 的净改进率是 +5.1%，上一代 K3 是 +0.9%；Bash Reliability 从 -4.5% 升到 +7.9%。

这类「从真实会话里抠信号」的榜，比刷题榜更接近你实际用起来的手感：它衡量的是「这人干活靠不靠谱」，不是「这人考试能考多少分」。

许可证：能商用，但有两道闸门

这是本次最容易被标题党糊弄过去的部分。很多报道写「开源」，但 Hugging Face 上的 license 标签是 other，名字叫 Kimi K3.1 Pro License，不是 MIT、不是 Apache。

我把 LICENSE 原文读完了，能做的和不能做的大致是这样：

能做的：使用、复制、修改、合并、发布、分发、再许可、销售；跑推理、部署、微调、做衍生作品。商用也在这张许可里，不需要单独申请。

两道闸门：

1. 如果你（含关联公司）在做 Model as a Service 生意——也就是把模型能力通过 API 之类的方式给第三方用，且对方能实质控制输入、参数或训练数据——并且你连续 12 个月的合计营收超过 2000 万美元，那你在商用前必须跟月之暗面单独签协议。
2. 如果你的商业产品或服务月活超过 1 亿，或者月营收超过 2000 万美元，那你必须在界面上显著标注「Kimi K3.1-Pro」。

条例还贴心地把两种情况排除在外：纯内部使用（不把模型、输出或底层能力给第三方），以及通过月之暗面官方产品或认证推理伙伴访问的使用。

说白了：小团队、创业公司、内部系统，基本无感；真正被卡住的是「靠转卖模型推理赚钱且规模已经不小」的那批人，和「用户过亿还想假装模型是自己训的」那批人。

怎么用：三条路，门槛差得很远

路线一：直接调 API（5 分钟能跑起来）

模型 ID 是 kimi-k3.1-pro，还有个高速版 kimi-k3.1-pro-highspeed，官方说同智商、速度 2～3 倍。

操作步骤：

1. 去 platform.kimi.ai 建一个 API Key。
2. 用 OpenAI 兼容的 SDK 直接调，base_url 指向 Kimi 平台，model 填 kimi-k3.1-pro。
3. 关键参数是 reasoning_effort，只有三档：low、high、max，默认就是 max。

第 3 步有个坑，而且是官方文档里专门写的：多轮对话和工具调用时，你必须把上一轮 assistant 返回的完整消息原样塞回 messages，包括 reasoning_content 和 tool_calls，不能只留 content。

为什么？因为 K3.1 Pro 的思考过程是有状态的。你把它上一轮的推理丢掉，它下一轮就真的「忘了自己刚才怎么想的」，多轮任务会莫名其妙地跑偏。这一点跟很多模型不一样，迁移代码时最容易踩。

路线二：自己起服务（需要机房）

官方推荐三个推理引擎：vLLM、SGLang、TokenSpeed。vLLM 已经做了 day-0 支持，命令层面就是标准的 vllm serve moonshotai/Kimi-K3.1-Pro，但真正的门槛在硬件：

• 仓库文件约 1.56TB，96 个分片，先准备好盘。
• 第三方硬件指南 VRAM Glass 的估算（alfw.ai 引用）：2-bit 构建约需 861GB 显存，4-bit 约需 1509GB；用原始权重跑 vLLM，大约要 8 张 288GB 的数据中心卡。
• 这些是估算，不是官方承诺，但它和 K3 当年的量级一致，说明硬件门槛这一年基本没降。

国内还有个便利：ModelScope 上的同 ID 镜像已经传完（96/96 + index），国内拉文件不用翻墙。

路线三：微调 / 蒸馏

许可证允许微调，也允许拿输出训练别的模型。但请注意，1.56TB 的底座不是拿来全参微调的，现实做法是 LoRA 或者用它生成数据去训小模型。

vLLM 那篇博客里有个细节挺有意思：这次 day-0 支持第一次做到了「零误差 RL」——vLLM 和 Megatron 对 base model 和 LoRA adapter 的 log-prob 输出是逐位一致的，跑 100 步全参训练，PPO 的 KL 每一步都精确为 0。这话对不做训练的人没意义，对做 RL 的人意义很大：以前你得反复对齐两个框架的数值，现在可以省掉这一整段调试。

成本账：什么时候该自建，什么时候老实调 API

先把已知价格摆出来（API 价格来自 alfw.ai 11 月 4 日核对，官方定价页是 JS 渲染的，我拿不到原始表格，所以这里标注为媒体转述）：

• 输入：每百万 token 2 美元
• 输出：每百万 token 10 美元
• 缓存命中输入：每百万 token 0.20 美元
• 高速版：4 美元 / 20 美元
• Batch API：按标准价 60% 计费

自建那边没有公开报价，因为要看你从哪儿租卡。所以我给你一个可套的公式，而不是编一个数字：

日成本对比

• 自建：GPU 数量 × 单卡小时价 × 24
• API：日输入 token 数 ÷ 1M × 2 + 日输出 token 数 ÷ 1M × 10

举个假设的例子（数字是假设，只为演示算法）：如果 8 卡机器的小时价是 25 美元/卡，那一天是 4800 美元。同样这笔钱，走 API 能买 2400 百万输入 token。也就是说：只有当你每天稳定消耗超过二三十亿 token，或者有硬性的数据不出机房要求，自建才在纯算账上说得过去。

反过来说，如果你的诉求是「数据不能出门」，那这笔账根本不用算——合规成本本来就高于 API 差价。

适用场景与不适用场景

适合用的场景：

• 长程编码 Agent：让它在一个真实仓库里连续改几十个文件、跑测试、修回归。Terminal-Bench 65.7 就是为这个场景准备的。
• 百万上下文的知识工作：整本合同、整套财报、整个代码库一次性塞进去。1M 上下文不是宣传语，是真能吃。
• 需要私有化部署的行业客户：金融、医疗、政务，数据不能出内网。
• 需要微调出垂直模型的团队：基座能力够强，许可证允许改。
• 图文混合的界面/文档理解：MoonViT-V2 是原生多模态，不是外挂。

不适合的场景：

• 从零生成完整程序：Program Bench 31.5 是硬伤，这类活儿它明显不如闭源旗舰。
• 单机玩家想在 Mac 上跑：1.56TB，别想了，云端 API 更现实。
• 想做「模型即服务」转卖且营收已过 2000 万美元：先去谈许可，别先上线。
• 需要极低延迟的实时对话：这是 2.8T 的 MoE，哪怕高速版也不是为毫秒级响应设计的。
• 网络安全攻防类任务：开源版专门削弱了这块。

最后一条值得单独说。Neural Brew 的报道提到，月之暗面在开放权重版本里删掉了网络安全相关训练数据，用来限制模型的攻击能力——在自家内部 xdev-bench-hard 上，这个版本是 81.0%，不带这层限制是 90.5%。也就是说，你下载到的版本，和 API 上的版本，能力并不完全一样。模型卡里的 ExploitBench 74.7、ExploitGym 20.7 这些数字，也要放在这个前提下去读。

常见错误与避坑

错误 1：以为「开放权重」等于「能在自己电脑上跑」。

1.56TB 是文件体积，不是显存需求。真跑起来，8 张 288GB 的卡起步。看到一个 3T 模型就想去租一张 H100 试试，是典型的误判。

错误 2：多轮对话只回传 content。

前面说过，reasoning_content 和 tool_calls 必须原样带回。这个坑不会报错，只会让模型表现变差，最难查。

错误 3：把 MXFP4 当成「精度损失、效果打折」。

这批权重是量化感知训练出来的，训练时就知道自己要跑在 MXFP4 上。它跟「事后把 BF16 压成 4bit」是两件事，别拿后者掉点的经验套前者。

错误 4：拿自报分数当独立复现。

Terminal-Bench 65.7、GPQA 94.2 都是月之暗面自己用 Claude Code / Kimi Code 这类 harness 跑的最高值。第三方独立复现（尤其在不同 harness 下）大概率会有出入。这不是说数据假，是说「榜上分数」和「你手里跑出来的分数」之间永远有一道沟。

错误 5：忽略「开源版 ≠ API 版」。

网络安全数据被摘掉这件事，说明两个版本的能力边界不同。要比较，就得在同一版本上比。

错误 6：把许可证当 MIT 用。

「能商用」和「无条件商用」是两回事。MaaS + 2000 万美元营收这条线，做 To B 生意的公司迟早会撞上。

我的判断：这不是「又一个开源模型」，是开源阵营的一次定价权争夺

过去一年，开源模型追赶闭源的方式基本是「在某个单项上赢一次」——编码赢一次、数学赢一次、多模态赢一次。K3.1 Pro 换了个打法：它同时在终端操作、长上下文、多模态理解上贴到第一梯队，然后把权重放出来。

这件事真正的杀伤力不在榜单，在两个地方：

第一，它把「旗舰能力」的价格锚定了。每百万输入 2 美元、输出 10 美元，配一个可以自建的 1.56TB 权重。企业采购时终于有一个可以拿来压价的参照物：你不降，我就自己拉权重回机房跑。

第二，它把长上下文的成本结构改了。24 层换成稀疏注意力，长上下文 decode 每层只读四分之一字节，KV cache 还能把 MLA latent、索引 key、KDA 状态打包成一块。这不是「跑分技巧」，这是把 1M 上下文的单位成本往下压。上下文越长，这个改动越值钱。

当然，短板也很清楚：从零造程序的 Program Bench 只有 31.5，说明它在「没有既有结构」的任务上还是弱。开源模型现在的强项，越来越集中在「有明确目标、有工具、有反馈」的 Agent 场景——这恰恰也是钱最多的地方。

对普通读者，一句话总结：你不一定用得上它，但从今天起，你能用上的模型，价格和选择都多了一个变量。

第一步：你现在可以做什么

• 只想试试能力：去 platform.kimi.ai 拿个 key，把 model 设成 kimi-k3.1-pro，先跑一个你手上最烦的编码任务，reasoning_effort 从 high 开始，别一上来就 max（贵且慢）。
• 想评估私有化：先把 HF 仓库的 README 和 LICENSE 读完（加起来不到 60KB），再算你的日 token 量，套上面的公式，看自建是否划算。
• 想微调：先确认你的场景在不在「长程 Agent / 长文档 / 图文理解」这三类里，不在的话，这个基座对你是过度配置。
• 做产品的：先看自己会不会撞上 2000 万美元 MaaS 那条线，撞上了就早点谈，别等上线再补。

参考来源

• Hugging Face 模型仓库与模型卡：https://huggingface.co/moonshotai/Kimi-K3.1-Pro
• 许可证原文：https://huggingface.co/moonshotai/Kimi-K3.1-Pro/blob/main/LICENSE
• 官方 X 发布帖：https://x.com/Kimi_Moonshot/status/2118010528123773297
• vLLM 官方博客《Day-0 Support for Kimi K3.1 Pro》：https://vllm.ai/blog/2026-11-04-kimi-k31-pro
• Kimi 官方文档（K3.1 Pro Quickstart / 模型列表）：https://platform.kimi.ai/docs/guide/kimi-k3-1-pro-quickstart
• IT之家（Agent Arena 数据、基准表）：https://www.ithome.com/1/022/490.htm
• alfw.ai（仓库体积、发布时间线、API 价格）：https://alfw.ai/article/kimi-k31-pro-weights-156tb/
• Neural Brew（许可条款、网络安全数据删除）：https://neuralbrew.ai/en/articles/2026/11/moonshot-releases-kimi-k31-pro-weights-hugging-face/

> 说明：模型规格、许可证条款、发布时间以 Hugging Face 仓库、LICENSE 原文、官方 X 与官方文档为准；仓库体积、API 价格、Agent Arena 排名与部分基准数字基于多家媒体转述整理（IT之家、alfw.ai、Neural Brew、DigIntoAI），文中已逐处标注。自建成本为演示算法的假设值，不是任何厂商报价。

参考来源

• https://huggingface.co/moonshotai/Kimi-K3.1-Pro
• https://vllm.ai/blog/2026-11-04-kimi-k31-pro
• https://www.ithome.com/1/022/490.htm