大语言模型

Liquid AI 一次放出六个 2B 级小模型:4bit 只要 1GB 内存,手机笔记本都能跑 Agent

2026年10月29日2 次阅读

三分钟看懂

一句话先说结论:Liquid AI 发布了新一代 LFM3 家族,一共六个模型,全部在 2B 参数上下,全部开放权重,而且是从同一个「骨干」上分出来的六种专长——文本、视觉、音频、全模态,外加两个只做判断的决策模型。

为什么值得看:过去一年小模型的路子基本是「把大模型砍小」,能力打折、场景单一。LFM3 换了个思路——先练一个 1.7B 的底子,再从这个底子长出六种不同的能力,每一种都能在自己的领域里打赢比自己大好几倍的模型。对普通用户来说,最直接的变化是:一个 4bit 量化后只占约 1GB 内存的模型,可以真的在你手机上长期挂着一个 Agent,而不是演示一下就没电。

对谁有用:想在本地跑自动化助理的人、需要把模型塞进手机或车机的人、手里有一批私有数据想单卡微调的人、以及每天要处理成千上万张工单/发票/录音、只想让模型「给个判断」而不是「写篇作文」的人。

这是什么:一个骨干,六个分身

LFM3 的技术底色是一个新架构。官方把它叫 tri-hybrid(三混合),24 层里用了三种不同的算子:

  • 13 层门控短卷积(kernel size 从 LFM2 的 3 提到 7)
  • 5 层滑窗注意力(窗口只有 256 个 token)
  • 6 层全局注意力

再往上叠了四个小改动:每个注意力头带一个 sigmoid 门,没东西可说时可以直接关掉;全局注意力层只对一半维度做 RoPE 旋转;每个 block 的输入输出都做归一化;词表沿用 LFM2.5-8B-A1B 的 128K。

预训练用了 22T tokens。最后 3.5T 是「中期训练」,数据里塞了大量 Agent 轨迹和工具调用样本——这一步同时把上下文从 32K 一路扩到 256K。后面接四段后训练:1.75T tokens 的 SFT、多域混合强化学习(带长度惩罚,逼模型说话简短)、六个专家教师蒸馏回一个模型(MOPD),最后是在真实 Agent 环境里跑的 agentic RL。

六个模型长这样:

模型参数干什么上下文
LFM3-1.7B1.7B文本,跑本地 Agent、工具检索256K
LFM3-VL-2B1.9B看图、看视频、空间与具身推理—
LFM3-Audio-2B2.0B18 语种识别/合成/翻译,能调工具—
LFM3-Omni-2B2.2B看图+听声+说话,多模态工具调用—
d1-2B1.9B读文字和图片,直接下判断—
d1-Omni-2B2.2B连声音一起听,直接下判断—

到底小到什么程度

官方给的几个数字比较直观:

  • 文本模型 4bit 量化后约 1GB 内存,塞得进手机。
  • 128K 上下文的 KV cache 只要 1.6GB,同一张表里 Qwen3.5-4B 要 4.3GB、MiniCPM5-2B 要 5.6GB。
  • 在 llama.cpp Q4_0、32K 上下文的条件下,它在 AMD Ryzen AI Max+ 395、Apple M5 Max、iPhone 17 Pro 三台设备上都是最快的,解码速度是同场对手的 1.8~2.8 倍,而且最省内存。
  • 单张 NVIDIA B300 跑 SGLang BF16,1024 并发下一天能吐 3.6B tokens;官方顺手用它并行了 30 万个 Agent 去翻安然(Enron)的邮件档案。

这个「便宜」不是纸面数字。官方引了 MacPaw 一位工程师的实测说法:在 65 个真实 macOS 日常 Agent 任务上,LFM3-1.7B 的成功率 64%,对比 Qwen3.5-2B 的 48%,每个任务少用 58% 的 token,卡住的概率不到 1%(对手 15%)。

官方成绩单里最值得看的几行

下面都是官方博客和模型卡里的口径,测试条件写在括号里,不是第三方复现:

项目LFM3-1.7BLFM2.5-2.6BQwen3.5-9B
综合平均49.3731.5547.24
LiveClaw(Agent 长任务)45.6014.7035.77
AutomationBench(公开集)41.290.9415.10
WebArena-Verified38.423.0228.94
BFCL V4(函数调用)71.3955.8962.83
SWE-bench Verified43.4018.0051.20
AA-LCR(长上下文)52.836.0062.00
GPQA Diamond63.3757.7880.40

该夸的夸:它在浏览器任务、企业流程、函数调用这几项上,确实越级打赢了比自己大五倍的模型。该说的也得说:知识量和复杂 agentic coding 仍然是参数的天下——GPQA Diamond 63.37 落后 Qwen3.5-9B 的 80.40,SWE-bench Verified 43.40 也输给它 51.20,Humanity's Last Exam 无工具只有 7.17(对手 16.41)。官方自己也承认「大小在编码和知识上仍然说话」。

视觉、音频、全模态这三块

LFM3-VL-2B:62 项视觉基准平均 71.4 分,和 Gemma 4 12B 的 71.7 几乎打平——对手大六倍。第一次支持视频输入,能做逐步推理,也能做空间定位(官方拿它当机器人控制器的基座)。视觉编码器是自研的,官方说同样质量下算力只要 SigLIP2 的三分之一,164M 的编码器在 13 项基准上追平 Qwen3.5-2B 的编码器,FLOPs 少 2.2 倍。

LFM3-Audio-2B:支持 18 种语言的识别、合成、翻译,还能把一句口头请求变成工具调用。VoiceBench 73.1,英文 TTS 的 UTMOSv2 3.8、WER 1.4%。自研的音频编码器是全因果的,可以边听边说,官方说首 token 最低 50ms。配套的 LiquidCodec 在 Apple M4 Max 单核上约 87 倍实时。

LFM3-Omni-2B:这是 Liquid 第一个全模态模型。能拿语音问图片、能同时看画面和听声音做视频理解、能用「看到的东西 + 说出的话」一起生成结构化工具调用。Daily-Omni 70.1、WorldSense 47.1、AV-SpeakerBench 46.8,都压过 Qwen2.5-Omni-3B 和 Gemma 4 E2B。官方举的例子挺具体:看着你手写的数学题听你提问、拿着平板边走边问它看到了什么、车机把摄像头画面和驾驶员的话合起来理解。

两个「只下判断、不聊天」的模型

d1-2B 和 d1-Omni-2B 是这个家族里最不显眼但可能最实用的两个。它们不写答案,只给判断:你把一张工单、一张发票、一个 App 界面、一张照片或一段语音,加上一长串问题丢进去,它一次前向就把所有问题答完,每个答案带一个校准过的概率。

相比上一代 d1-3B,最大的变化是「答案有类型」了:

  • Point:按你的描述画框,或者数出一共有几个
  • Read:把文字、数字、日期抽出来,附上原文位置;字段不存在时明确说「没找到」
  • Estimate:给一个数,同时给可信区间
  • Pick:所有符合的选项都选上,各带概率

成绩上,Decision Bench(真实企业记录)85.2 对比 d1-3B 的 83.6,Decision Index 51.1 对 49.0,参数还少了三分之一。d1-Omni-2B 用语音提问时,路由分诊这类任务从 83.4 掉到 78.2,掉得不算多。

怎么用:三条上手路径

路径一,直接下载权重。 Hugging Face 上六个模型都有,每个还配了 GGUF、ONNX、MLX、FP8、NVFP4 版本,官方集合页是 huggingface.co/collections/LiquidAI/lfm3。

路径二,本地跑起来。 文本模型用 llama.cpp(需要带 LFM3 支持的构建)或 MLX,4bit 约 1GB。视觉/音频/全模态模型官方也给了对应的 GGUF 和 MLX 仓库。官方说他们这次做硬件在环架构搜索时,覆盖了 14 种设备与后端组合:三星 Galaxy S26 Ultra、一加 15、树莓派 5、Apple M4 Max、AMD Ryzen AI、Arm 与 x86 云 CPU,还有 GPU 和高通 Hexagon NPU。

路径三,单卡微调。 官方给了微调 notebook。他们自己演示了一个很具体的例子:拿约 3000 张公开的风电叶片照片,在一张 A100 上用 SFT + GRPO 训几个小时,缺陷分类准确率从「不到 10%」提到 67%,检测 F1 从 0.003 提到 0.11。这件事的意义不在风电,而在于「一个 2B 模型 + 几千张你自己的图 + 一张卡 + 几小时」这条路径终于成立了。

成本与时间预估。 权重免费下载,花钱的地方在算力:本地跑一张消费级显卡就够(4bit 约 1GB 内存,笔记本都能扛);要做官方那个微调示例,是一张 A100 跑几个小时;要复现「一天 3.6B tokens」的吞吐,得上 B300 这类数据中心卡。API 侧价格看 Liquid 官网定价页,本篇不搬二手报价。

适合谁,不适合谁

适合:

  • 想在自己电脑或手机上常驻一个 Agent,处理收件箱、日历、网页检索、早报推送的人
  • 需要把模型放进车机、平板、机器人这类算力和内存都紧张的地方
  • 有一批私有图片/录音要处理,不能上传云端
  • 每天要处理大量工单、发票、客服记录,只想让模型输出结构化判断

不适合:

  • 需要顶格知识量、要回答冷门专业知识的问题(GPQA、HLE 落后明显)
  • 复杂的 agentic coding(SWE-bench Verified 43.4,仍低于 Qwen3.5-9B 的 51.2)
  • 只想要一个能聊天的通用大模型——这不是它的定位

第一步马上可以做的: 去集合页把 LFM3-1.7B-GGUF 拉下来,在 llama.cpp 里挂一个 32K 上下文的本地助理,先试试它能不能替你处理收件箱分诊和日历排期——这是这批模型最直接的体感测试。

避坑

  • 许可证不是 Apache 或 MIT。 模型卡写的是 LFM Open License v1.0(license: other)。开放权重不等于随便商用,落地前把 LICENSE 读一遍。
  • 语言覆盖别想当然。 文本模型卡只标了 16 种语言(含中文),音频是 18 种。真要跑小语种,先自己验一遍。
  • benchmark 是官方口径。 上面所有分数来自官方博客和模型卡,测试条件是 vLLM BF16 满上下文、temperature 0.6 / top_p 0.95(端侧那组是 llama.cpp Q4_0、32K)。换成你的量化方案和推理框架,数字会变。
  • 「30 万 Agent 并行」是吞吐演示,不是说你也能这么干——那需要一张 B300 和 SGLang 的调优。

一句话总结

LFM3 不是「又一个更小的模型」,而是把「一个骨干长出一窝专才」这件事做成了产品:文本管 Agent、视觉管看、音频管听、Omni 管一起、d1 管下判断,全都压在 1~2GB 的内存预算里。它不打算赢知识竞赛,它打算赢「能不能一直挂在你设备上」这场比赛。

参考来源

  • Liquid AI 官方发布博客:https://www.liquid.ai/blog/lfm3
  • 官方模型卡(LFM3-1.7B):https://huggingface.co/LiquidAI/LFM3-1.7B
  • 官方工程博客:https://huggingface.co/blog/LiquidAI/lfm3
  • 模型集合页:https://huggingface.co/collections/LiquidAI/lfm3
  • VentureBeat 报道:https://venturebeat.com/technology/liquid-ais-new-lfm3-models-put-browser-agents-voice-commands-and-image-reco
  • MarkTechPost 报道:https://www.marktechpost.com/2026/10/27/liquid-ai-lfm3-open-weight-2b-multimodal-models/
  • 智源社区转述:https://hub.baai.ac.cn/view/59105

本篇以 Liquid AI 官方博客与 Hugging Face 模型卡的一手信息为主,媒体侧仅用于交叉确认发布时间与事件本身,基于多家媒体转述整理。

评论

0 条已公开
登录或注册后可以参与评论。

正在加载评论...