11B 的开源模型突然会自己调工具了:Bielik 3.1 把语言从 32 种加到 56 种,8GB 显卡就能跑
3分钟看懂
一句话:波兰的 SpeakLeash 基金会把一个 11B 参数的开源模型,从「只会好好说话」升级成了「会调工具、会按格式回话、会先想再答」,语言覆盖从 32 种拉到 56 种,权重今天(11 月 10 日)已经挂到 Hugging Face,Apache-2.0 可以商用。
三个关键数字:
- 11B 参数,不是旗舰,一张 8GB 显卡能跑量化版,24GB 显卡能跑 Q8_0。
- 56 种语言,第一次包含中文、日文、韩文、阿拉伯文。
- τ²-bench 提升 16 到 45 个百分点,这是考察「能不能真的把多步任务办完」的客服场景基准,也是这次升级里最实的一块。
本文基于多家媒体转述整理(官方博客、模型卡,以及波兰媒体的报道与独立实测);涉及厂商自己的基准声明,文中会标出「官方称」。
这是什么
Bielik 是 SpeakLeash 基金会维护的波兰开源大模型系列,这一版由 SpeakLeash 与波兰超算中心 ACK Cyfronet AGH 联合发布。11B 指的是模型参数量,属于「一张消费级显卡就能跑」的量级,不是那种要几台机器才推得动的旗舰。
v3.1 不是换架构,而是在 v3.0 基础上继续加练:官方说额外训练了 5000 亿 token,再用 2600 万条样本做指令微调,并在 14 个环境里做了强化学习(用的是改进版 GRPO)。模型结构、体积、推理速度基本没动,变的是「学会做什么」。
如果你只用一句话判断要不要关心它:这是一个把「多语言」和「Agent 能力」同时塞进小模型的样本,而且它把权重的各种量化版本一次性全放了出来。
为什么重要
过去一年,开源小模型的竞争主要在「同体积下谁更聪明」。但真正让模型能进业务流程的,是三件很朴素的事:
- 它能不能听懂你的语言,包括不是英语的语言。
- 它能不能不去写一段话,而是回一个程序能直接用的结构(JSON、函数调用)。
- 它能不能在一个任务里连续做几步,中途调用外部工具。
这三件事凑齐,模型才从「聊天玩具」变成「流程里的一个零件」。Bielik 3.1 的升级正好卡在这三件事上,而且是在 11B 这个能私有化部署的体积里做到的。
对非英语市场的团队来说,这一点尤其实际:你不太可能为了一个内部工单分类任务去调用一个按 token 计费的海外 API,但你完全可以在自己的服务器上跑一个 11B。
三个真正的变化
一、语言从 32 种扩到 56 种
官方说 v3.1 补齐了欧盟全部官方语言,并第一次加入欧洲以外的语言:阿拉伯语、中文、日文、韩文,以及亚美尼亚语、阿塞拜疆语、格鲁吉亚语。
模型卡里的语言列表可以从 32 项数到 56 项,这是可以自己核对的事实,不用信新闻稿。另外,除了官方点名的那些,列表里还有希伯来语、印地语、印尼语、波斯语、越南语、哈萨克语。
官方的基准数字是:阅读理解基准 Belebele 提升 8 个百分点,覆盖 44 种语言的知识与推理基准 INCLUDE 提升 5 个百分点。
这里要打个折:模型卡本身仍然写着「针对欧洲语言优化,尤其是波兰语」。所以「支持 56 种语言」的准确含义是「这 56 种它都训练过」,不等于每种都写得和波兰语一样好。
二、从「会说话」变成「会办事」
这是 v3.1 最实质的升级,三个机制一起上:
- 函数调用:模型不直接回答,而是吐出一个「请帮我执行这个函数、参数是这些」的结构。实测里问「明天格但斯克天气」,v3.1 直接给出带
Gdańsk和2026-11-11两个参数的调用,日期是它自己算的。 - 结构化输出:要求返回 JSON 就返回纯 JSON,不加解释性废话。
- 显式推理:
reasoning_effort分五档(none 到 max),难任务可以先想再答,调用工具时也能带着推理。
官方在 τ²-bench 上的说法是比 v3.0 高 16 到 45 个百分点。这个基准模拟的是航空、零售、电信的客服场景:模型要理解问题、选对工具、遵守业务规则、把整个案子办完——只答对一句话不算过关。这个提升幅度如果属实,说明它补的是「执行」而不是「知识」。
三、部署档位一次放全
同一天放出的权重格式包括:BF16 全量、FP8-Dynamic、AWQ、NVFP4、MLX(给 Mac),以及 GGUF。GGUF 仓里有 Q4_K_M(6.72GB)、Q5_K_M(7.91GB)、Q6_K(9.16GB)、Q8_0(11.87GB)和 bf16(22.34GB)。
对一个要落地的人来说,这比基准数字更有意义:你不用等社区花两周去转格式。
第三方实测说了什么
波兰媒体 Promptowy 在发布当天做了一次对照测试,用 RTX 4090、llama.cpp(CUDA)、温度 0.3,让 v3.1 的 Q4_K_M 和 Q8_0 与旧版 v3.0 的 Q8_0 各答同样的 10 道波兰语任务,人工按 1 / 0.5 / 0 打分。
结果是:v3.1 Q8_0 得 8.0 分,Q4_K_M 得 7.0 分,v3.0 得 5.0 分。
分数拉开的地方,正好是官方承诺的地方:
- 工具调用:v3.1 两个量化版都满分,v3.0 得了 0 分(它写了一整段「建议你去天气应用查一下」)。
- 邮件内容转纯 JSON:v3.1 满分,v3.0 只给 0.5(JSON 塞在代码块里)。
- 阿拉伯语翻译:v3.1 Q8_0 满分,v3.0 是 0 分(出现性别一致错误、结尾是乱码)。
- 日语敬语翻译:v3.0 输出日文、西里尔字母和英文单词的混合物,v3.1 至少是通顺但生硬的日文。
速度上没有惊喜也没有退步,因为架构和体积没变:
- Q4_K_M:110.5 tok/s,8K 上下文占 8.3GB 显存,32K 上下文占 13.0GB。
- Q8_0:67.3 tok/s,8K 占 13.0GB,32K 占 17.6GB。
但也有变差的地方,这点值得说清楚:拼写检查里 v3.1 漏掉了「zciągnęli」(应为「ściągnęli」),而 v3.0 改对了;要求「三个要点、每点不超过 15 词」时,v3.1 的 Q4_K_M 写了六个要点,还自己加了句「我已总结为 3 点」。也就是说,它对「形式约束」的服从度没有提升,甚至在个别项上退了一点。
这个测试只有 10 道题、一个人评分,样本很小,不能当权威结论。但它的价值在于:它是发布当天、用公开权重、在消费级显卡上跑出来的,条件写得很清楚,你可以自己复现。
怎么用
三条路,按你手上有什么选:
1. 只想快速试一下(有 Ollama 或 LM Studio)
GGUF 仓不需要登录就能下。注意 Ollama 官方库里目前还没有这个 tag(我查了 ollama.com/library/bielik-11b-v3.1-instruct 返回 404),要跑就手动导入 GGUF,或者用 LM Studio 直接选文件。
2. 要接进程序(推荐 vLLM)
走 vLLM,并配上 SpeakLeash 自己维护的 bielik-tools 解析器。原因是:llama.cpp 只会把工具调用原样吐成 <tool_call> 文本,你得自己解析;vLLM 配了解析器才会返回真正可用的结构化调用。
3. Mac 上本地跑
用 MLX 的 4bit / 8bit 版本,仓里都有。
不管走哪条路,有一个坑要提前知道:这个模型的聊天模板会自动在每轮对话前面拼一段约 1000 token 的内置系统提示(身份、日期、规则)。实测里一个 60 token 的短指令,实际输入会变成 1100 到 1500 token。本地跑感觉不到,但如果你按 token 计费对外提供服务,这部分是实打实的成本。可以关:设 provider_system_prompt: false。
适用场景
- 私有化部署的内部知识库问答:11B 的体积意味着可以放在一台普通服务器上,文档不出内网。
- 非英语工单分流:56 种语言 + JSON 输出,正好是「读懂工单 → 打标签 → 进队列」这条链。
- 结构化信息抽取:从邮件、发票、表单里抠字段,直接回 JSON。
- 需要在欧洲合规框架下运行的场景:Apache-2.0,权重可下载,不依赖外部 API。
- 边缘 / 离线环境:Q4_K_M 6.72GB,一张 8GB 显卡配短上下文能跑起来。
不适用场景
- 高难度代码生成或长链推理:11B 的上限在那里,别拿它替旗舰模型。
- 必须严格 schema 的生产链路:官方模型卡自己写明「参数 schema 不做强制约束」,也就是说它可能给你一个格式对但字段错的 JSON,下游必须有校验。
- 纯 CPU 环境:Q4_K_M 也要 6.72GB 权重,CPU 推理会慢到不具备可用性。
- 需要多模态输入:这一版只吃文本,能看图的那版还没发。
- 把它当「波兰语之外也很强」用:官方自己说模型仍以欧洲语言、尤其波兰语为优化目标。
成本与时间
- 权重:免费,Apache-2.0,商用不需授权费。
- 真正的成本是硬件:8GB 显卡跑 Q4_K_M(短上下文),16 到 24GB 显卡跑 Q8_0 比较舒服。
- 如果要对外提供服务:别忘了那 1000 token 的内置系统提示。
- 迁移成本:从 v3.0 换到 v3.1 基本是换文件,接口不变;要用工具调用则必须换到 vLLM + 解析器,这是唯一需要改代码的地方。
- 下载体积:Q4_K_M 6.72GB,Q8_0 11.87GB,bf16 22.34GB。
几个容易踩的坑(避坑清单)
- 全量权重仓是带门禁的:BF16 那些要登录 Hugging Face 并同意「接受联系」才能下;GGUF 仓不需要登录。想先试就跑 GGUF。
- llama.cpp 不给你解析好的工具调用:它只吐
<tool_call>文本,要真正调用得自己解析或换 vLLM。 - 内置系统提示会吃掉上下文:约 1000 token,短对话里占比很夸张。按 token 计费的场景记得关。
- 别把「支持 56 种语言」理解成「56 种都母语级」:模型卡仍写着以欧洲语言为主。
- 官方基准是官方基准:τ²-bench 的 16 到 45 个百分点是厂商声明,第三方目前只有小样本人工评测,没有完整复现。
下一步:接下来几天还有两波
SpeakLeash 这次是「三天三发」:
- 11 月 11 日:Bielik 11B v3.1 DFlash,一个 draft 模型,用投机解码加速主模型出词,理论上不损质量。
- 11 月 12 日:Bielik-One,四个「决策模型」——不写文章,只做分类和打分,比如把工单分到对的队列、给内容打风险分。
- 11 月 26 日:官方预告正在做第一个多模态 Bielik,参数量超过 1000 亿,细节在 Bielik Summit 2026 上公布。
如果你现在正在评估「能不能用开源小模型替掉一部分 API 调用」,这一版值得花半小时实测:下载 GGUF、跑你那 10 条真实任务、看它能不能稳定回 JSON。这比看任何基准都准。
参考来源
- https://www.bielik.ai/en/blog/launching-bielik-11b-v31-dflash-and-the-bielik-one-family
- https://huggingface.co/speakleash/Bielik-11B-v3.1-Instruct
- https://huggingface.co/speakleash/Bielik-11B-v3.1-Instruct-GGUF
- https://promptowy.com/bielik-3-1-premiera/
- https://itwiz.pl/debiutuje-bielik-3-1-polski-model-ai-obsluguje-56-jezykow-i-zyskuje-nowe-mozliwosci-agentowe/