645GB 权重、120 个分片、MIT 许可:上海 AI 实验室把 320B 的科学模型开源了,但先别急着下
3分钟看懂
上海人工智能实验室开源了一个新模型:书生 S2.1 Flash(Sage S2.1 Flash),一个面向科研任务的多模态混合专家(MoE)模型,许可是 MIT。
三个最硬的数字:
- 320B 总参数,每处理一个 token 激活 18B(官方部署文档口径「320B-A18B」)
- bf16 权重约 645GB,切成 120 个分片;另有 FP8 版本,约 330GB
- MLE-bench Lite 拿到 90.3 分,比第二名 DeepSeek-V4.1-Flash-1017 的 89.2 高 1.1 分
它在 11 月 15 日凌晨出现在 Hugging Face(仓库创建时间 2026-11-15T02:34:59Z,北京时间 15 日上午 10 点半左右),11 月 16 日补齐了模型卡、部署文档和技术报告。所以我们把它算作这两天的新发布,而不是「10 月那个 Sage S2.1 的旧闻」——两者是两个不同的模型,架构也不同,后面会讲。
为什么这件事值得看
过去一年,开源大模型的新闻基本是「谁更大、谁更便宜」。这个模型换了个方向:它不打算陪你聊天,它打算替你开软件。
官方模型卡的定位原话是「面向需要多轮分析与反复验证的科研任务」。翻成普通话:给它一批 CT 切片、一批建筑照片、一份光谱数据,它会在 3D Slicer 里重建骨骼、在 Blender 里搭出可编辑的三维场景、在 QGIS 里做水域边界对比、在 CAD 里做装配和干涉检查,然后回头核对中间结果、发现不对就调整方法。
这件事的分量不在于分数,在于它把「会用专业软件」当成了第一能力。绝大多数模型能写代码,但不会打开一个 1990 年代界面的工程软件、找到那个按钮、看懂渲染出来的预览图。而科研的日常,恰恰卡在这一步。
再加上 MIT 许可 + 权重真的放出来了(不是「开源但只给 API」),这在国内实验室里不算常见。
它到底能干什么
官方给出的演示是四个完整闭环,每个都留下了可以继续检查的中间产物:
- CT 切片分析:恢复切片层序,按密度阈值提取骨性区域,重建三维骨骼,再从多个角度查看肋骨与脊柱的空间关系;发现局部骨性突起后,调出相邻原始切面核对,把核对结果写进报告
- 建筑三维重建:输入多角度的建筑照片和夜景参考,在 Blender 里搭出体块、悬挑和幕墙,逐步添加玻璃材质、金属格栅和室内照明,最后交付
.blend工程文件,可以重新打开继续编辑 - 鄱阳湖水域分析:用多光谱数据提取候选水域,叠加回原始彩色影像放大看湖岸,重点检查浅水和湿滩的交界;面积统计只在两期影像共同有效的研究区内做,最后导出变化地图、面积表和 QGIS 工程
- 发动机参数化建模:从参考图识别总体构型、外部轮廓和零件布局,在 CAD 里完成参数化建模和整机装配,再统一检查零件干涉并修复
支撑这些的是一套叫 书生·元征(Sage SciPerception) 的统一表征架构:分子图、晶体结构、蛋白质序列与三维结构、DNA、RNA、光谱、质谱、X 射线衍射、心电、脑电、光变曲线等十余类科学输入,各自编码后投影到同一个表征空间,再和自然语言指令一起参与推理。
要注意的是:这些演示都是官方自己挑的例子,没有第三方复现。视频在官方公众号,技术报告在 GitHub 仓库里(InternLM/Sage-S2.1-Flash)。
成绩单要怎么看
模型卡里放了一张 15 项基准、6 个模型的对比表。书生 S2.1 Flash 4 项第一、7 项第二。
第一的四项:
- MLE-bench Lite(机器学习工程)90.3,第二名 DeepSeek-V4.1-Flash-1017 是 89.2
- OfficeQA Pro(复杂办公文档)72.2
- Harvey LAB(专业法律文书)25.0
- SpreadsheetBench 2(表格补全纠错)37.1
第二的七项:AutomationBench、ALE-CLI、BFCL V4、WebArena-Verified、DeepResearch Bench II、JobBench、OSWorld-Verified。
但真正有价值的信息在它输的地方,这些媒体稿基本不会提:
- SWE-bench Pro 60.6,Claude Opus 5 是 76.5,差 16 分
- NL2Repo-Bench 57.2,Claude Opus 5 是 79.9,差 22 分
- PaperBench 88.0,Qwen3.8-Max 是 95.1
- MLS-Bench 42.0,Claude Opus 5 是 49.8
- BrowseComp 91.2,DeepSeek-V4.1-Flash 是 93.8
一句话总结:它在「照着文档干活」这类任务上很强,在「从零写一个大仓库」「读完论文复现」这类长链条任务上还差一截。 这和它的定位是吻合的——它是科研助手,不是软件工程师。
另外必须说清楚:这些分数全部是自报的,来自模型卡。没有第三方榜单复测,也没有公开评测脚本。AI Weekly 在报道里也专门加了一句提醒,说 90.3 对 89.2 这个 1.1 分的领先应该本地重跑再采信。
架构:它其实换了底座
这一点很少有报道提,但值得单独说。
打开仓库里的 config.json:model_type 是 glm5_next,45 层,隐藏维 4096,288 个路由专家 + 1 个共享专家,每个 token 激活 8 个,位置编码上限 1,048,576。
而官方部署文档第一段自己写得很直白:「Sage-S2.1-Flash 使用 GLM-5.3-Flash 架构」,装 vLLM 和 SGLang 要照 GLM-5.3-Flash 的官方配方来,只是把模型名换掉。
对比 10 月那个同名前辈 Sage-S2.1(78 层、隐藏维 6144、256 个专家),这一版不是简单放大或缩小,是换了一个完全不同的底座,再往上叠科学能力。45 层里只有 11 层是全注意力,其余是线性注意力(KDA),这是它能撑住长上下文的工程手段。
所以定位可以理解成:拿一个已经成熟的通用 Agent 底座,加一层科学数据的翻译层(SciPerception 的编码器 + 可训练投影器),再针对科研软件场景做后训练。
顺带解释一个数字打架:官方说 320B,媒体普遍写 321B。 我按仓库里的分片大小算了一下,120 个分片合计约 642.8GB,bf16 每参数 2 字节,折算约 321.4B 参数。所以 321B 是「按权重文件倒推」,320B 是官方四舍五入口径。两个都不算错。
怎么用:三条命令和三个坑
官方给了 LMDeploy、vLLM、SGLang 三套部署方式。bf16 版本示例用 8 张 H200,FP8 版本用 4 张 H200。
vLLM 路线大致是这样:
- 按 GLM-5.3-Flash 的官方配方装 vLLM 0.33.0
- 先把仓库里的
vllm_patch/下下来(只下补丁,不下权重):hf download internlm/Sage-S2.1-Flash --include "vllm_patch/*" --local-dir /path/to/Sage-S2.1-Flash - 按
vllm_patch/README.md把补丁打上,然后vllm serve internlm/Sage-S2.1-Flash --trust-remote-code --tensor-parallel-size 8 --enable-auto-tool-choice --tool-call-parser glm47 --reasoning-parser glm47
三个坑,官方文档里都写了,但很容易被跳过:
--trust-remote-code必须加。 不加的话引擎会静默加载原生 tokenizer,把<|user|>、<tool_call>这类字符串当成控制符编码。后果是模型提前停、工具调用断掉、推理内容消失,而且不会有任何报错。- Hopper 卡(H100/H200)上不要开 FP8 KV cache,这个模型在 Hopper 上不支持,保持默认 BF16。
- transformers 版本窗口很窄:LMDeploy 要
>=5.17,<5.19。5.19 之后把层类型deepseek_sparse_attention改名为indexed_attention,LMDeploy 还不认。
还有一个 vLLM 的已知问题:多个工具并行调用时,如果结果回来的顺序和调用顺序不一致,vLLM 收集图片是按消息顺序的,会导致图片被悄悄挂到错误的结果上,模型开始回答另一张图。官方补丁改的就是 vllm/renderers/hf.py 这一个文件,把结果按调用顺序排好再收集。上游修复在 vllm-project/vllm#67108,还没合。
成本与门槛
自建: bf16 要 8 张 H200,FP8 要 4 张。这不是「两张 4090 跑起来」的模型,光是 645GB 权重下载就是一件体力活(120 个分片)。
调 API: 官方体验入口是书生·端砚(discovery.intern-ai.org.cn/token-plan/home),也给 ModelScope 上有额度。按媒体转述的官方口径,上线有限时优惠:即日起到 12 月 9 日,价格是对标模型(GLM-5.3-Flash)的 1%;12 月 10 日到 12 月 31 日是 10%(基于多家媒体转述整理,官方页面未给出可直接引用的单价表,具体以端砚平台实际计费为准)。新用户注册有免费额度。
国产卡: 沐曦股份称曦云 C 系列 GPU 完成了 Day-0 适配,并称同一任务下推理成本只有书生·星河的十分之一(厂商口径,未经第三方验证)。
适用场景:这几种情况值得试
- 你要处理科学数据的结构化输入——分子、晶体、蛋白序列、光谱、脑电,而不只是文本和图片
- 你的流程里卡在「打开专业软件、点对按钮、看懂渲染结果」这一步,比如三维重建、GIS 分析、CAD 装配检查
- 你需要能改的中间产物,不是一段描述。
.blend、QGIS 工程、CAD 模型这些能回查的东西,比「模型说它做完了」有用得多 - 你有 4–8 张 H200,或者愿意直接调 API
不适用场景:这些现在别碰
- 单卡 / 消费级显卡玩家。645GB(或 330GB FP8)不是本地能塞进去的量级,量化到能跑的程度基本等于换了个模型
- 要放进生产环境的工具调用系统。vLLM 那个「图片挂错结果」的问题还没上游修复,官方补丁只是绕过去;同时官方自己也写「推理框架仍在积极开发中」,命令只是参考配置
- 要官方 SLA 或合规承诺的商业采购。MIT 许可本身很宽松,但这个模型刚上线两天,没有服务等级、没有数据处理说明
- 拿它做纯软件工程。SWE-bench Pro 和 NL2Repo-Bench 两项都落后 Claude Opus 5 十几到二十几分,写大仓库不是它的强项
避坑:三个容易看错的地方
- 官方 320B vs 媒体 321B。前者是官方四舍五入,后者是按权重文件倒推,都对
- 官方图表是 15 项基准,媒体稿写「33 项」。33 项是官方在中文稿里提到的「通用智能体评测总数」,模型卡上公开的对比表只有 15 项。看到 33 这个数字别当成 33 项全部第一
- 这是新模型,不是 10 月那个 Sage-S2.1 的更新。旧的 Sage-S2.1 在 10 月 23 日发布,78 层、6144 隐藏维;这一版 45 层、4096 隐藏维、换 glm5_next 架构。把两者混为一谈会得出错误的结论
- 分数自报。模型卡上的数字是实验室自己跑的,官方没给评测脚本,也没有人类基线
行动建议
第一步:如果你只是想看看它行不行,别下载权重。去端砚注册拿免费额度,用你手头真实的一份科学数据或一份表格任务试一次,重点看它会不会在中间结果上自我纠正——这是它宣称的核心能力,也是唯一值得验证的地方。
第二步:如果效果可以接受,再评估 FP8 + 4×H200 这条路线,并且先在小规模上复现一遍它的工具调用顺序问题,确认你的并发场景会不会踩到那个「图片挂错」的坑。
第三步:要做严肃评估的话,把 MLE-bench Lite 和 OfficeQA Pro 本地重跑一遍。90.3 对 89.2 那 1.1 分,是它全部宣传里最脆的一环。
参考来源
- 官方模型卡与技术文档(Hugging Face,2026-11-15 创建,11-16 更新):https://huggingface.co/internlm/Sage-S2.1-Flash
- 官方部署指南(含 320B-A18B、645GB、8×H200、GLM-5.3-Flash 架构说明):https://huggingface.co/internlm/Sage-S2.1-Flash/blob/main/deployment_guide.md
- 官方 FP8 版本(约 330GB,4×H200):https://huggingface.co/internlm/Sage-S2.1-Flash-FP8
- 官方 GitHub 与技术报告(仓库创建 2026-11-16T03:34Z):https://github.com/InternLM/Sage-S2.1-Flash
- 官方 ModelScope 仓库(创建 2026-11-15T05:55Z):https://www.modelscope.cn/models/Shanghai_AI_Laboratory/Sage-S2.1-Flash
- 书生·元征 SciPerception 统一表征:https://huggingface.co/internlm/Sage-SciPerception
- 书生·端砚在线体验:https://discovery.intern-ai.org.cn/token-plan/home
- AI Weekly 报道(2026-11-16T12:32Z,含「自报分数需本地复跑」提醒):https://aiweekly.co/alerts/internlms-321b-sage-s21-flash-leads-mle-bench-lite-at-903
- 网易号官方稿转载(演示细节与限时优惠口径):https://www.163.com/dy/article/LBSS354N0511AQHO.html
- 沐曦股份 Day-0 适配(厂商口径):http://stock.10jqka.com.cn/20261116/c681873864.shtml
- Emergent 报道(2026-11-16T13:13Z):https://emergent.sh/news/internlm-sage-s2-1-flash-321b-scientific
本文部分细节基于多家媒体转述整理;技术参数、许可证与部署要求以上述官方仓库与部署文档为准。