AI硬件设备

一台 1.6 升的国产小主机,把 350 亿参数模型关进了办公室

2026年11月6日1 次阅读
一台 1.6 升的国产小主机,把 350 亿参数模型关进了办公室

⚙️ 一台 1.6 升的国产小主机,把 350 亿参数模型关进了办公室

11 月 3 日,联想开天发布了一台叫「信创 AI 主机」的小机器:1.6 升的体积,里面塞了兆芯的八核 CPU 和一颗后摩的 NPU,官方说能在这台机器上直接跑 350 亿参数的模型,不用把任何一句话发到云端。这是信创市场里第一台这种形态的产品。

📅 2026 年 11 月 3 日发布 · 🧠 兆芯 CPU + 后摩 160 TOPS NPU · 💾 24GB NPU 专用内存 · 📊 基于多家媒体转述整理
国产信创 AI 桌面主机

3分钟看懂:这台机器到底是什么

先说清楚它不是什么。它不是服务器,不是加速卡,也不是给游戏玩家准备的显卡盒子。它是一台完整的桌面电脑主机,体积 1.6 升——大概相当于两个饭盒叠起来,重量约 1.5 公斤,可以直接摆在办公桌上。

它也不是「普通电脑加一块显卡」。这台机器的算力核心是一颗专门的 NPU(神经网络处理器),型号是后摩智能的力擎 LQ50,标称 160 TOPS 的 INT8 算力,还可以选配到 320 TOPS。更关键的是,这颗 NPU 自带 24GB 专用内存,带宽 153.6GB/s。

CPU 是兆芯 KX-7000,八核。操作系统预装麒麟,上面跑的是联想自己的天禧 AI Pro 智能体。

「信创」这个词需要解释一下。它是「信息技术应用创新」的缩写,指的是国内推动的一套自主可控软硬件采购体系,主要面向政府、国企、事业单位和它们的供应商。换句话说,这台机器首先是一台「采购目录里的机器」,不是你在电商平台随手能下单的产品。

一句话总结:它把「跑大模型」这件事,从机房搬到了办公桌上,而且用的是全国产的 CPU、NPU 和操作系统。

关键参数一张表

项目规格
处理器兆芯 KX-7000,八核
AI 算力后摩力擎 LQ50,160 TOPS INT8(可选 320 TOPS)
NPU 专用内存24GB,带宽 153.6GB/s
可跑模型350 亿参数级(官方验证 Qwen3.6-35B-A3B)
实测生成速度约 28.99 tokens/s(W4A8 量化,24GB NPU 配置)
最大输入长度20 万 token
机身1.6 升,约 1.5 公斤,双 2.5GbE 网口
系统与软件麒麟 OS + 天禧 AI Pro 智能体 + 后摩大道开发平台
噪音与温度待机 19.4dB / NPU 满载约 29.5dB;25℃ 满载壳温约 41℃
价格未公布
上市时间未公布

所有性能数字均为联想与后摩方面自测口径,本文未能取得可直读的联想官方新闻稿页面,以下内容基于多家媒体转述整理。

为什么这件事值得单独说

第一,它绕过了桌面跑大模型最难的那道墙。

在普通电脑上跑大模型,卡点通常不是算力,而是显存。模型权重必须装进能被高速访问的内存里,装不进去就只能靠系统内存慢慢搬,速度立刻掉到每秒几个 token。这台机器的解法是给 NPU 配了 24GB 独立内存——不跟 CPU 抢系统内存,也不依赖显卡。350 亿参数模型用 W4A8 量化压一压,正好塞得进去。

这是「专用硬件解决专用问题」的典型做法:不是把通用 GPU 做大,而是承认「本地推理」有自己的内存需求,然后单独满足它。

第二,它是信创体系里第一台这种形态的产品。

过去信创采购的 AI 能力,基本等于「买服务器 + 连云端」或者「买带 NPU 的笔记本」。前者贵、要机房;后者算力小、跑不动大模型。一台 1.6 升、能上办公桌、能跑 350 亿参数模型的主机,填的是中间那块空白。

第三,它背后的成本逻辑很直白。

官方给的说法是「适合本地运行的任务直接调用自身算力,无需逐次消耗云端 token,数据留在本地」。这句话有两个含义:一是长期使用的边际成本接近于电费;二是数据不出机器。对政企客户来说,第二条往往比第一条更重要。

需要提醒的是,这台机器没有公布价格,所以「省不省钱」目前无法算。任何声称「几个月回本」的说法,都缺少最关键的输入项。

怎么用:三类实际场景

场景一:文档理解与知识库问答。 20 万 token 的输入长度,大约相当于一本三四十万字的书。把内部制度、合同、技术手册丢进去做检索问答,是这台机器最自然的用法。

场景二:常驻型 Agent。 官方把它包装成「7×24 小时持续在岗的数字员工」,能做文件整理、信息汇总、定时任务、跨应用操作。这类任务的特点是频次高、单次价值低,正好适合本地算力——不用为每次调用付云端的钱。

场景三:内网与涉密环境。 数据不能出内网的场景里,云端 API 直接出局。这时候「能跑 350 亿参数」和「完全离线」这两件事的价值,会远大于「跑得多快」。

适用场景

  • 政企、国企、事业单位的信创采购项目,需要一台能落地的本地 AI 终端
  • 有内网或数据不出域要求,但仍希望用上大模型能力的团队
  • 需要长期常驻 Agent 处理文档、汇总、定时任务的办公场景
  • 软件开发商(ISV)想在国产软硬件栈上做适配和交付

不适用场景

  • 个人消费者:这是信创渠道产品,目前没有面向零售的开售信息
  • 需要训练或微调模型的团队:这是一台推理设备,不是训练设备
  • 追求极致速度的用户:约 29 tokens/s 是「能流畅读」的水平,不是「飞快」
  • 需要跑 100B 以上模型的场景:24GB 专用内存的上限摆在那里
  • 需要多卡并行、跑大规模服务的场景:这是单机桌面产品,去机房买服务器

避坑:四个必须知道的限制

坑一:没有价格,也没有上市时间。 所有报道里都没有这两项。看到「售价xxxx元」的自媒体内容,基本可以判定是编的。

坑二:28.99 tokens/s 有前提条件。 这个数字来自 Qwen3.6-35B-A3B 在 W4A8 量化下、使用 24GB NPU 配置的测试。换成别的模型、别的量化精度、别的输入长度,速度都会变。官方也没有公布测试时的输入长度和并发情况。

坑三:TOPS 不等于体验。 160 TOPS 是 INT8 的理论算力,跟「聊起天来有多顺」不是一回事。真正决定体验的是内存带宽(153.6GB/s)、模型能不能装进去、以及软件栈调得好不好。后摩提供「后摩大道」平台做量化、编译、运行时管理和性能分析,说明适配工作是需要做的,不是开箱即通。

坑四:「首款」这个词要打折看。 「首款信创 AI 主机」是厂商自己的定位口径,指的是这个采购体系内的产品形态。市面上能本地跑大模型的设备不少,只是不在同一个渠道、不挂同一个标签。

成本与时间

  • 采购成本:未知(未公布价格)
  • 使用成本:本地推理,边际成本主要是电费;整机功耗未公布
  • 部署时间:需要走信创采购流程,不是下单即到
  • 适配时间:跑官方已验证的 Qwen3.5 / Qwen3.6 系列最快;换其他模型需要走量化与编译流程

行动建议

  1. 如果你是政企 IT 负责人:先把这台机器列进下次采购的技术调研清单,重点问三件事——价格、整机功耗、以及你们自己要用的模型有没有被验证过。
  2. 如果你是 ISV 或开发者:去了解「后摩大道」平台的量化与编译流程,判断你们的产品迁移过去要多少人天。这比看 TOPS 数字有用得多。
  3. 如果你是普通用户:先别急。这类产品通常要等信创渠道铺开、或者厂商推出消费级版本,才轮得到个人买。想现在就在本地跑大模型,成熟方案还是带大显存的显卡或统一内存的迷你主机。
  4. 如果你只是想判断趋势:记住这个组合——国产 CPU + 国产 NPU + 专用大内存 + 桌面形态。这套配方大概率会在接下来一年被更多厂商复制。

参考来源

评论

0 条已公开
登录或注册后可以参与评论。

正在加载评论...