爱芯元智发布 AX8860：把 256 TOPS 和 128GB 内存装进一块芯片，让大模型在工厂现场直接跑

国产 AI 芯片公司爱芯元智（Axera）在中国国际工业博览会（CIIF 2026）上正式发布了 AX8860 大算力边端 AI 芯片系列。用一句话概括它想干的事：让大模型不用搬回数据中心，直接在工厂、仓库、机器人这些"现场"跑推理。

先讲结论：这是什么、为什么重要

之前边缘设备（工控机、机器人、 视觉盒子）跑大模型有个老矛盾：算力芯片不是我家的强项，内存又装不下模型权重。AX8860 这次同时堆了两样东西——256 TOPS 算力 + 128GB 大内存，官方把它定位成"为大模型边端落地打造的现场推理算力底座"。它的发布标志着边端 AI 从技术验证阶段，跨入以业务价值为导向的端到端生产力落地新周期。

关键数字，逐条翻译

• 256 TOPS 混合精度算力，原生支持 FP4：FP4 是一种更省电、省内存的低精度格式，专为大模型推理设计。TOPS 衡量的是芯片"做算术"的速度，256 TOPS 在边端芯片里属于第一梯队的水平。
• 128 GB LPDDR5X 大内存，带宽 273 GB/s：内存容量决定了"装得下多大的模型"。128 GB 意味着百亿甚至更高参数级的大模型和多模态应用可以直接部署，这是大多数边缘芯片（一般只有几个到几十 GB）给不了的。
• AXLink 级联 + PCIe 5.0 高速互联：一块不够就拼多块，像乐高一样弹性扩展算力，为多芯片协同留好了通道。
• 64 路视频解码 + 16 路视频编码：一次接入几十路摄像头同时"看"，适合产线质检、仓储监控这类多路视觉场景，边看边算。
• 6nm 工艺：在算力、能效比和成本之间取平衡，对部署在现场、可能 7×24 运行的设备来说，能效比比峰值参数更实在。

不是单颗芯片，是一整套产品矩阵

AX8860 之外，爱芯元智同步发布了元曦模组 A256S（模块化设计、体积小、集成快，支持 LLM、VLM 和 Omni 等多类模型），并展出了元曦系列推理卡和推理服务器。也就是说，从芯片、核心模组到推理卡、整机服务器，客户可以按自己的业务阶段选形态，沿着同一技术路线扩展算力，不用中途换技术栈。

爱芯元智创始人兼董事长仇肖莘在现场的说法是："让企业聚焦业务创新，不用为算力迁移分心。"

对谁有用？

最直接的目标用户是三类：

• 智能制造：产线质检、接口插拔这类"感知—判断—执行"要在毫秒级闭环完成的场景，数据不宜出车间，本地推理是刚需。
• 仓储物流：几十路摄像头的多目标识别和分拣调度。
• 机器人 / 具身智能：发布会现场，合作伙伴原力灵机的 DM0.5 通用具身大脑就是跑在爱芯大算力平台上，完成了接口插拔质检、通用工业插入、灵巧手柔性切削三个演示任务。

不适用场景和注意事项

先把丑话说在前面：

• 它不是给云端训练用的。AX8860 的战场是"现场推理"，大模型预训练、大规模微调仍然是数据中心 GPU 的活。
• 峰值算力 ≠ 实际体验。256 TOPS 是纸面数字，真实表现还取决于模型适配程度和工具链成熟度，选型时建议先拿自己的业务模型实测。
• 128GB 是"统一内存"，CPU 和 AI 算力共享，跑超大模型时实际可用额度要做减法规划。

选型建议：第一步做什么

如果你的业务有多路视觉 + 大模型的组合需求，建议第一步先算一笔账：把目标模型（含多模态部分）的显存/内存需求列出来，对照 128 GB 上限看是否装得下、留多少余量给并发请求；再决定选 A256S 模组（集成快、体积小）还是元曦推理卡/服务器（算力可扩展）。装不下或并发高的，可用 AXLink 级联多芯片方案兜底。

来源说明：本文基于爱芯元智官方新闻页及 IT 之家、海外科技媒体等多家媒体转述整理，属媒体交叉印证信息。