AI硬件设备

把 DRAM 直接叠在逻辑芯片上:日本 PFN 拉上三星和 SEMIFIVE,下一代推理芯片要把带宽再翻一倍

2026年11月19日3 次阅读Read in English
把 DRAM 直接叠在逻辑芯片上:日本 PFN 拉上三星和 SEMIFIVE,下一代推理芯片要把带宽再翻一倍

做 AI 推理的人这几年反复撞同一堵墙:算力买得到,带宽买不到。日本 Preferred Networks(PFN)在 SC26 上给出的解法有点极端——把内存直接盖在芯片上面,让数据不用绕远路。

11 月 16 日,在芝加哥的 SC26 超算现场,PFN 与韩国定制芯片设计公司 SEMIFIVE 宣布合作开发 MN-Core L2000 系列推理芯片。这是 PFN 现有 MN-Core L1000 的下一代,官方给出的目标很直接:内存带宽做到 L1000 的两倍以上,流片(tape-out)排在 2027 年第一季度。逻辑芯片由三星 Foundry 的平台工艺制造。

3分钟看懂:先讲结论

  • 这不是一颗已经能买到的芯片。L2000 现在的状态是「合作已启动、架构已定、2027 年一季度才流片」。
  • 它解决的问题是内存带宽,不是算力。官方原话是把带宽再翻一倍以上,用来加快推理、提升能效。
  • 技术路线是不用 HBM 那种「并排放」的封装,而是把 DRAM 垂直叠在逻辑芯片上面,整面互连。
  • 三家公司分工很清楚:PFN 出架构和逻辑设计,SEMIFIVE 出设计实现和整条供应链,三星 Foundry 出制造平台和 3D-IC 设计基础设施。
  • 「两倍带宽」目前是计划目标,官方没有给实测数据,也没有给价格、功耗和客户名单。
  • 顺带说一句:这一代真正的第一颗产品是 L1000,官方计划 2027 年上市;L2000 在官方路线图上标的是 2028 年。

为什么带宽比算力更卡人

大模型推理分两步。第一步叫 prefill,把用户的问题、文档、代码整段读进去,算出中间状态,这一步吃算力。第二步叫 decode,一个 token 一个 token 往外吐字,这一步吃内存带宽——每吐一个新词,都要把模型权重重新读一遍。

权重有多大,每个 token 就要搬多大的数据。一个千亿参数的模型,权重几百 GB,生成一个字就要把这几百 GB 扫一遍。算力再强,数据送不进来也只能干等。这就是业界说的「内存墙」。

GPU 的应对办法是把 HBM 高带宽内存贴着 GPU 放,用 2.5D 封装并排摆。PFN 的思路更进一步:既然数据要搬运,那就把距离压到最短——逻辑芯片和 DRAM 垂直叠起来,整面互连,而不是靠边缘的硅中介层绕。

这颗芯片怎么堆

MN-Core L 系列的公开描述是:以 MN-Core 架构的逻辑芯片为基础,与 DRAM 做 3D 垂直堆叠。官方给出的理由是这套结构能拿到比 GPU 和其他 AI 芯片高得多的内存带宽,同时改善能效,面向的是智能体这类需要快速响应的推理负载。

这条路听着漂亮,工程上很难。3D 堆叠要同时解决三件事:功耗怎么散出去、热量怎么导出来、良率怎么保住——只要有一颗 die 出问题,整个叠层就报废。PFN 的 CEO 西川徹(Daisuke Okanohara)在新闻稿里也没有回避这一点,明确说 3D 结构在功耗、散热、制造良率上都比常规芯片开发更难。

官方产品页(mn-core.com)目前给出的 L1000 基础规格是:128GB 内存、40+TB/s 带宽、同机位下 10 倍推理性能,并注明「2027 年一台工作站」。页面自己也标了这是初步规格、可能变动。需要提醒的是,不同媒体在转述 L1000 时给过不同的分项数字(例如按单芯片口径给出的带宽与容量),这些口径与官方整机口径并不一致,看数字前先确认是「一颗芯片」还是「一台机器」。

三家公司各干什么

  • Preferred Networks(日本,芯片定义方):负责处理器架构和逻辑设计。MN-Core 从 2016 年做到现在。
  • SEMIFIVE(韩国,KOSDAQ: 490470,定制芯片 turnkey 服务商):负责设计实现和整条供应链——DRAM 供应、量产、先进封装、测试。
  • 三星 Foundry(制造与设计基础设施):负责逻辑芯片的平台工艺,并提供 3D-IC 设计基础设施,包括 3D 互连的 I/O 接口和电源结构优化方法。

SEMIFIVE 的 CEO Brandon Cho 把这个项目称作公司「首个全流程 3D-IC 项目」。三星 Foundry 技术企划副总裁 Taejoong Song 的表态则落在生态上:通过 SAFE 计划扩展 3D-IC 生态。

还有一层背景值得知道:这个项目拿的是日本防卫省下属采购技术后勤厅(ATLA)「安全保障技术推进制度」的支持,项目名为「基于 3D 集成 LSI 技术的超高速深度学习与推理研究」(Type S,FY2024–FY2028)。也就是说,它同时带着产业和国家安全算力自主的意味。

时间线:别把路线图当现状

  • 2016 年:PFN 启动 MN-Core 研发(背景)。
  • 2024 年 11 月:L1000 首次对外公布(旧闻,不是本次新闻点)。
  • 2026 年 11 月 16–17 日:SC26 现场宣布 L2000 合作与流片计划(本次发布)。
  • 2027 年 Q1:L2000 计划流片(未发生)。
  • 2027 年:L1000 计划上市,含单芯片、四芯片 Box、16 芯片工作站三种形态(未发生)。
  • 2028 年:L2000 计划推出,官方路线图标注(未发生)。
  • 2030 年:下一代,官方路线图标注(未发生)。

另外有个容易混的消息:11 月 18 日,韩国 MangoBoost 宣布与 PFN 签 MOU,做「AI Token Factory」异构推理架构的概念验证——GPU 干 prefill,MN-Core 干 decode,DPU 管 KV cache 和传输。这是另一件事,跟 L2000 的芯片开发不是同一个公告,别串成一条。

怎么用:如果你在评估这条路

第一步,先分清你在买什么。L1000 是 2027 年的产品,L2000 更晚。现阶段能做的不是采购,而是判断这条技术路线值不值得进你的三年规划。

第二步,算清你的负载结构。长输入、短输出的场景(文档问答、代码补全、检索后总结)对 prefill 压力大;长输出场景(整篇报告、长对话)对 decode 的带宽压力大。3D 堆叠瞄准的是后者。

第三步,确认软件栈。PFN 的芯片不是 CUDA 生态,模型要过它自己的编译与运行环境。历史上这类自研架构的迁移成本,往往比硬件参数更决定成败。

第四步,盯住两个可验证的节点:2027 年 L1000 是否按期上市,以及 L2000 是否按期在 2027 年一季度流片。这两个节点滑一次,后面的规划都要重排。

成本与时间预估

官方没有公布任何价格、功耗数字或客户名单。已知的时间锚点只有三个:L2000 流片 2027 年 Q1、L1000 上市 2027 年、L2000 推出 2028 年(官方路线图)。SEMIFIVE 侧提到三星平台工艺和 3D-IC 设计基础设施,但没说制程节点。

从商业角度看,真正的参照系是 2027 年市场上的 HBM4 方案。3D 堆叠 DRAM 的优势在带宽密度和能效,劣势在良率、可修复性和产能弹性——DRAM 厂能不能给出足够的堆叠产能,是这条路能不能规模化的前提。

适用场景:谁该认真看

  • 自建推理集群、被电力和机位卡住的机房运营方:带宽密度更高意味着同机位能服务更多并发请求。
  • 做智能体、实时交互类应用的团队:这类负载要求低延迟持续出字,正是带宽敏感型。
  • 关注算力自主的机构与政策方:日本用 ATLA 项目扶持本国 AI 芯片,是一个可观察的样本。
  • 芯片与封装从业者:这是 3D-IC 从「实验室」走向「量产流程」的一个具体案例,SEMIFIVE 明确说这是它首个全流程 3D-IC 项目。

不适用场景:这些现在别碰

  • 想马上买到卡的人:2027 年 Q1 才流片,现在没有产品。
  • 深度绑定 CUDA 生态的团队:换架构意味着重写和重调,短期不划算。
  • 需要成熟运维工具链的生产环境:新架构的监控、故障定位、降级策略都还没有公开资料。
  • 只想追单卡峰值算力的人:这条路线卖的是带宽和能效,不是 TFLOPS 数字。

避坑:五个容易读错的地方

  • 「两倍带宽」是目标,不是实测。 官方用的是计划口径,没有任何 benchmark 数据。独立媒体 Unite.AI 也把这一点写明了。
  • L2000 不是「下一代马上来」。 2027 Q1 流片,按官方路线图 2028 年推出。流片到量产通常还有一年以上。
  • 别把 L1000 的规格当成 L2000 的规格。 L2000 目前只公布了「带宽 >2× L1000」这一个相对指标,绝对数字一个都没有。
  • 别把 3D 堆叠和 HBM 混为一谈。 HBM 是并排 + 硅中介层;这里是垂直叠,互连面积和散热路径完全不同,工程风险也不同。
  • 别把 MangoBoost 的 MOU 当成 L2000 的进展。 那是系统层的异构推理验证,用的是 L1000 样片,和 L2000 的芯片开发是两条线。

一句话总结

这次公告真正的信息量不在「两倍带宽」,而在于日本把一颗自研推理芯片的量产链路交给了韩国设计公司和三星 Foundry,并用 3D 堆叠 DRAM 明确押注「带宽优先」这条与英伟达不同的路线。对读者来说,判断标准很简单:如果你在为推理的带宽成本和电费发愁,这条路线值得放进观察名单;如果你只是想让手上这台机器快一点,它跟你没关系。

说明:本文基于 PFN 与 SEMIFIVE 官方新闻稿,并结合多家媒体转述整理;所有未发生的时间点均已标注为计划。

参考来源

评论

0 条已公开
登录或注册后可以参与评论。

正在加载评论...