把向量检索从 CPU 手里接过来:韩国 Dnotitia 的检索专用 ASIC 第一次跑起实机,260 万帧视频能边问边搜,但价格和量产时间都还没说
大多数 AI 芯片新闻都在比算力:多少 TFLOPS、多少 HBM、能组多少张卡。韩国公司 Dnotitia 走的是另一条路——它做的不是"算"的芯片,而是"找"的芯片。11 月 19 日,在芝加哥的 SC26 超算大会上,这家公司第一次把 VDPU(Vector Data Processing Unit,向量数据处理单元)的 ASIC 版本拉出来实机运行:观众用一句自然语言提问,芯片在约 260 万帧视频里实时找出语义最接近的片段。
这是该系列芯片第一次以"专用集成电路(ASIC)"形态公开跑起来。9 月在 AI Infra Summit 2026 上它展示的还是 FPGA 版本——FPGA 可以出厂后改电路,是验证用的;ASIC 是把逻辑固化成芯片,往前走了一个阶段。
本文基于官方新闻稿及多家媒体转述整理(PR Newswire 官方稿、HPCwire、韩国 DigitalToday、首尔经济)。
3分钟看懂:先讲结论
- 它解决的不是算力,是"找数据"。AI agent 干活时每一步都要翻资料、翻历史记录,这类语义检索长期压在 CPU 上。
- 演示做了什么:一张 VDPU ASIC 卡,对约 260 万帧视频做自然语言实时检索。
- 官方给的对比数字:同样的检索任务从 CPU 卸载到 VDPU 后,主机 CPU 占用降低 90% 以上。
- 官方给的目标:一台装多张 VDPU 卡的服务器,做到双路 CPU 服务器约 10 倍检索性能。这是目标,不是实测。
- 分工思路:CPU 跑服务、GPU 跑模型、VDPU 跑向量检索,各干各的。
- 还没说的:价格、功耗、制程、算力指标、量产时间、客户名单,一个都没公布。
为什么"找数据"会变成瓶颈
先说清楚向量检索是什么。大模型要回答一个具体问题,往往需要先去资料库里翻出相关内容。传统做法是按关键词匹配,但同一个意思可以用完全不同的词表达。向量检索把文档、图片、视频帧都转成一串数字(向量),意思越接近,数字在空间里离得越近,于是"找相关内容"变成"找最近的邻居"。
问题在于,这件事很吃 CPU。Dnotitia 的 CEO 郑武景(MK Chung)在 10 月 7 日首尔一场公开演讲里给过一个数字:数据中心里 CPU 的负载有 60%~70% 花在找数据上。他还提到另一层压力——AI 用来做短期记忆的 KV 缓存越做越大,塞不进昂贵的高带宽内存,只能反复搬到外部再搬回来,延迟就上去了。
Agent 把这个问题放大了一轮。以前是人类在搜,现在是一个任务里 AI 自己要搜几十上百次。搜索次数一多,CPU 就被检索占满了,真正该跑的服务反而没资源。
这次演示到底跑了什么
场景很具体:库里放着约 260 万帧视频,用户用自然语言提问,芯片要把视频帧的向量和问题向量做比对,实时返回意思最接近的结果。
跑这件事的是一张装了 ASIC 的 VDPU 卡。官方给出的效果是两条:检索性能比纯 CPU 方案更好,同时主机 CPU 占用下降 90% 以上。省下来的 CPU 核心可以拿去跑 agent 本身或者其他服务——这是这套方案真正的卖点:不是让检索变快一点,而是把一整块 CPU 资源还给业务。
Dnotitia 还提到一个分工模型:CPU 负责跑服务,GPU 负责模型计算,VDPU 专门负责向量检索。目标是单台装多张 VDPU 卡的服务器,做到双路 CPU 服务器约 10 倍检索性能。
和 9 月那次有什么不一样
同一个演示,两代硬件,差别值得说清楚:
- 9 月(AI Infra Summit 2026):FPGA 版 VDPU,展示的是"这件事能做,性能是这个量级"。FPGA 的好处是改起来快,坏处是成本和能效不适合量产。
- 11 月(SC26):ASIC 版 VDPU,展示的是"固化成芯片之后还能跑"。这是从验证走向产品的必经一步。
媒体在转述时把这次称作"首次公开 ASIC 版性能",这和官方稿的说法一致。
配套的软件不是临时凑的
一颗只会搬数据的芯片没法直接用。Dnotitia 自己在做向量数据库 Seahorse,也在做 agent 软件,芯片设计阶段就把真实检索负载的需求带了进去。公司说,正在评估把 VDPU 集成进第三方服务器和存储系统——换句话说,它想卖的是加速卡和软件,不是整机。
背景上,这家公司 8 月完成了 6120 万美元 A 轮融资,总部在首尔,北美团队在圣何塞。9 月 Seahorse 存储还在 MLPerf 的向量数据库评测里拿过第一。这些都是背景,不是本次新闻点。
时间线:别把演示当成能下单
- 2026 年 8 月:完成 6120 万美元 A 轮融资(背景)。
- 2026 年 9 月 18 日:AI Infra Summit 上展示 FPGA 版 VDPU 与 4 卡服务器(旧节点)。
- 2026 年 10 月 7 日:CEO 在 AI Festa 26 演讲,给出"CPU 负载 60~70% 用于找数据""检索比 CPU 快最多 15 倍"等口径。
- 2026 年 11 月 17–19 日:SC26 展位 5613,展示 ASIC 版 VDPU 实机运行(本次新闻点)。
- 量产时间 / 定价 / 客户:未公布。
怎么用:如果你在评估这条路
第一步,先算清你自己的检索占比。 找运维或平台团队要一组数据:推理服务里,CPU 时间是花在模型前后处理上,还是花在向量库检索和 rerank 上。如果检索占比不到两成,专用卡带来的收益很可能盖不过新增的运维复杂度。
第二步,确认你的瓶颈是"检索慢"还是"检索把 CPU 吃光了"。 这是两件不同的事。前者看 P99 延迟,后者看 CPU 利用率和排队长度。VDPU 这类方案主要解第二个。
第三步,问清楚软件怎么接。 加速卡要能接进你现有的向量库(Milvus、Qdrant、pgvector 之类),否则等于换一套数据层。目前公开信息里,Dnotitia 只说了自家 Seahorse 和"正在评估第三方服务器/存储集成",没有给出通用接口清单。
适用场景:谁该关注
- 自建 RAG 或 agent 平台、检索量很大的团队:尤其是多轮 agent,一个任务里要反复检索的场景。
- 视频/图像素材库:这次的演示就是视频帧检索,监控回放、素材检索、多模态知识库都是同类负载。
- CPU 已经被检索吃满、又不想为检索单独加一整排 CPU 服务器的机房:用加速卡换 CPU 核心,账要先算清。
- 服务器与存储厂商:官方明确说在找合作方做集成验证,这是产业侧的机会。
不适用场景:哪些情况先别碰
- 检索量小的应用:一天几万次查询,用 CPU 完全够,加一张专用卡只会增加故障点。
- 需要现在就能采购上线的项目:没有量产时间、没有价格、没有客户案例,任何采购流程都过不了。
- 强依赖特定向量库生态的团队:如果接口不通,迁移成本会远超硬件省下的钱。
- 把这件事当成"国产替代 GPU"来理解的人:它不跑模型,不能替代 GPU 做推理。
避坑:五个容易读错的地方
- "降低 90% CPU 占用"不是"快 10 倍"。占用下降说的是 CPU 被解放,性能提升是另一条口径,官方没有给统一的加速比。
- "10 倍"是服务器级目标,而且是"装多张卡的一台机器 vs 双路 CPU 服务器",不是单卡对单核。
- "15 倍"来自 10 月演讲,是 CEO 对单点检索加速的口头表述,和新闻稿里的 10 倍不是同一件事,别混着引用。
- 演示 ≠ 量产。ASIC 跑起来只说明芯片功能正确,离可交付产品还隔着良率、封装、驱动、认证。
- 没有任何第三方基准。目前所有数字都是厂商口径,没给测试方法、数据集规模、CPU 型号、并发数。
成本与时间预估
官方没给价格和交付时间,这里只能给判断框架,不给拍脑袋的数字:
- 成本侧:一张加速卡的价格通常要低于它替下来的 CPU 核心成本,才划算。按现在的公开信息,无法估算单卡定价。
- 集成时间:如果要接自研向量库,保守按数月量级的工程投入估;接现成方案取决于对方是否提供适配层。
- 可用时间:这次是实机演示,公司说接下来与全球服务器、存储公司做概念验证(PoC)评估性能与可靠性。PoC 到量产通常还要一到数轮硬件迭代。
一句话总结
这次真正的新东西不是某个跑分,而是"检索"这件事第一次被当成一类需要专用硅片的负载,并且从 FPGA 走到了 ASIC 实机。它离能买还远,但对检索量大的 agent 平台来说,这是一个值得记进技术雷达的方向——等它公布价格和量产时间再决定要不要动。
参考来源
- Dnotitia 官方新闻稿(PR Newswire,2026-11-19):https://www.prnewswire.com/news-releases/dnotitia-presents-first-live-demonstration-of-its-vdpu-vector-search-asic-at-sc26-302945556.html
- HPCwire(2026-11-19):https://www.hpcwire.com/off-the-wire/dnotitia-presents-first-live-demonstration-of-its-vdpu-vector-search-asic-at-sc26/
- DigitalToday 英文版(2026-11-19):https://www.digitaltoday.co.kr/en/view/127786/dinotisia-unveils-first-live-run-of-asic-based-vdpu-cuts-host-cpu-use-by-over-90
- 首尔经济英文版(2026-11-19):https://en.sedaily.com/business/2026/11/20/deepauto-rival-dnotitia-demos-ai-search-chip-at-sc26
- ZDNet Korea(2026-10-07,CEO 演讲背景):https://zdnet.co.kr/view/?no=20261007172520