vLLM 项目开源 Decision 3.0:6 个「只下判断、不聊天」的决策模型,最小 0.6B 能看图、能跑在手机上
标题:vLLM 项目开源 Decision 3.0:6 个「只下判断、不聊天」的决策模型,最小 0.6B 能看图、能跑在手机上
---
10 月 10 日,vLLM 项目旗下的 Semantic Router 团队在 Hugging Face 的 vllm-sr 组织里,一口气上传了 6 个开源决策模型:d3、d3-flash、d3-mini、d3-nano、d3-lite 和 d3-edge,全部 Apache-2.0 协议。10 月 11 日,vLLM 项目官方 X 账号转发了团队维护者的介绍帖,算是给这批模型「盖了章」。有意思的是,直到目前,这个项目既没有发官方博客,也没有发新闻稿——公开的官宣渠道只有 X 和 Hugging Face 模型卡,媒体从 10 月 11 日起才陆续跟进报道。本文基于多家媒体转述整理,供参考。
这是什么:不聊天、只判断的「决策模型」
如果你期待一个能写文章、聊天的助手,那这批模型会让你意外:它们一个字都不会生成。
Decision 3.0 的 6 个模型是「决策模型」——你给它一个输入(一段文本或 JSON,可附带图片和视频),再给它一组命名好的问题,它输出的不是文字,而是每个问题的概率分布。问题有三种类型:
- Choice(选择题):从候选答案里选,输出每个选项一个校准过的概率;
- Noul(是非题):是/否判断,输出概率;
- Score(打分题):输出分数分布。
关键是速度:所有问题在一次前向传播里全部答完——每个问题走一遍 readout 头,没有任何解码循环。对比传统做法(让大语言模型生成一段文字、再用代码解析出判断),这条路又快又省,还不会出现「模型答非所问导致解析失败」的问题。
家族一览:从 0.6B 到 26B,五个尺寸都能看图
6 个模型全部基于通义千问 Qwen3.5/Qwen3.8 系列底座做后训练,除了最小的 d3-edge,其余都带视觉编码器,能直接读图片和视频再下判断:
| 模型 | 总参数 | 其中视觉 | 底座 | 上架时间(UTC) |
|---|---|---|---|---|
| d3 | 26.09B | 0.46B | Qwen3.8-27B | 10-10 09:38 |
| d3-flash | 8.39B | 0.46B | Qwen3.5-9B | 10-10 17:23 |
| d3-mini | 4.54B | 0.33B | Qwen3.5-4B | 10-10 17:14 |
| d3-nano | 2.21B | 0.33B | Qwen3.5-2B | 10-10 17:14 |
| d3-lite | 0.85B | 0.10B | Qwen3.5-0.8B | 10-10 17:14 |
| d3-edge | 0.59B | — | Qwen3.5-0.8B | 10-10 23:49 |
从能塞进手机的 0.6B,到可以当主力判断层的 26B,尺寸全覆盖。仓库内容也相当完整:safetensors 权重、聊天模板、decision_config.json(锁定底座版本)、自定义建模代码(modeling_d3.py 等)、readout.safetensors 判断头,外加一份带 SHA-256 校验的 MODEL_MANIFEST.json。
成绩单:官方自报 Jev 决策指数第一
团队在自己的 Jev Decision Index 0.3.1 排行榜上放了成绩:d3 以 64.7 排第一,比上一代 Decision 2.0(27B)的 55.9 高出 8.8 分,也压过了 Perplexity Decider v1.1(62.8)等对手。
必须提醒:这些数字全部是官方自报——d3 自己的成绩是内部评估,对手的成绩是从排行榜上拉的实时数据,目前没有任何第三方复现。参考即可,别当成定论。
对谁有用
- 做 Agent 编排的工程师:Agent 系统里大量环节其实是判断——选哪个工具、走哪条分支、这个结果行不行。这些环节用 27B 的聊天模型去生成文本再解析,又贵又慢;用专用决策模型,0.6B 都可能够用。vLLM Semantic Router 本身就是做这个「路由层」的开源项目。
- 想在本地跑的开发者:6 个尺寸意味着从手机、笔记本到服务器都有得选,Apache-2.0 协议商用无障碍。
- 做多模态判断的场景:5 款带视觉编码器,图片/视频进、结构化判断出,比如内容审核、素材筛选这类活。
值得注意的一点
这次发布的方式本身值得一提:先上权重,后写公告(甚至暂时没有公告)。GitHub 仓库的 Release 页面还停在 9 月 27 日的 v0.4.0,项目博客的最新一篇也还不是这批模型。换句话说,这是又一个「产物先行、叙事滞后」的开源发布案例——对于盯开源动态的人来说,光刷官方博客已经不够了,Hugging Face 组织页的提交记录同样值得关注。
权重下载地址:huggingface.co/vllm-sr(d3 / d3-flash / d3-mini / d3-nano / d3-lite / d3-edge 六个仓库)。
---
来源(正文已注明基于多家媒体转述整理):
- HF 模型卡:https://huggingface.co/vllm-sr/d3-edge 等 6 库(HF API createdAt 时间戳实测)
- orcarouter 10-11/12:https://www.orcarouter.ai/blog/decision-3-0-open-multimodal-decision-models
- MarkTechPost 10-11:https://www.marktechpost.com/2026/10/11/what-is-decision-3-0-vllm-semantic-routers-new-open-decision-models/
- vLLM 官方 X 10-11 祝贺帖(经上述两媒体交叉转述)