HBM3E、HBM4 的新闻最近半年基本被 SK 海力士和美光包了。三星正面堆 12 层、16 层 DRAM die,短期账面胜算不大。所以他们换了个打法——zHBM (zoomed-in HBM)。原型刚曝光,但社区讨论度冷得反常。
下面把目前能确认的事和不能确认的事分开讲。
zHBM 到底和传统 HBM 差在哪
传统 HBM 的物理结构是这样的:DRAM die 一层一层摞起来,通过 TSV (硅通孔) 互连,整个 stack 再通过一颗硅中介层 (silicon interposer) 或者更先进的 RDL 扇出,跟 GPU 或 ASIC 并排坐在同一块封装基板上。GPU 核心和 HBM 之间是"邻居",不是"叠层"。
zHBM 的核心改动一句话:把内存直接堆在 AI 加速器裸片顶上。
这听起来像是把 HBM 倒过来用,但实际上封装逻辑完全不同:
- 物理距离:传统 HBM 通过 interposer 走线,信号传输路径相对长;zHBM 是垂直堆叠,内存到计算单元的距离缩短一个数量级
- 带宽潜力:距离短 → 寄生电容低 → 可以在更低的功耗下跑更高的传输速率,或者用更宽的 I/O
- 热设计:这是双刃剑——内存和逻辑芯片贴在一起,热密度爆炸,散热方案得重做
- 封装工艺:不再是标准的 CoWoS / SoIC,需要更激进的混合键合 (hybrid bonding) 或者新的 TSV-less 方案
简单说,zHBM 赌的是"封装创新比制程升级更便宜"。7nm、5nm 工艺每代成本涨 30-50%,但换个封装架构,可能用相对成熟的工艺节点也能拿到性能提升。
为什么三星选这条路,而不是堆层数
HBM 主赛道的牌桌现状:
- SK 海力士:HBM3 早量产,HBM3E 已经批量出货给 NVIDIA H200,12 层堆叠领先
- 美光:HBM3E 24GB 12-Hi 去年开始送样,2024 年中量产,NVIDIA B100/B200 拿不到大头但分到一块
- 三星:HBM3 量产晚,HBM3E 还在追赶,12-Hi 进度落后于对手
三星在 HBM 主战场落后 1-2 个季度,这个代差短期内靠堆叠层数追不上 (良率、产能、客户验证都需要时间)。
但三星手里有张牌:先进封装。
三星在 FOPLP (扇出型面板级封装) 和 I-Cube (2.5D 封装) 上有积累,这是 SK 海力士和美光的相对短板。zHBM 走封装路线,本质上是把战场从"谁的 DRAM die 堆得多"换成"谁能把内存和计算更紧地缝在一起"。
这个打法有没有可能绕开 HBM 接口标准 (JEDEC 定义的物理层和协议) 是另一个问题。传统 HBM 必须兼容 HBM3/HBM4 规范才能被 NVIDIA、AMD 的 GPU 直接采用。zHBM 如果是定制 ASIC 专用,就不需要走 JEDEC 标准,客户群会窄很多。
原型阶段,别急着高潮
目前能确认的:
- 三星确实发布了 zHBM 原型 (来源: thelec.net 报道)
- 封装架构和堆叠方式不同于传统 HBM
- 定位是 AI 加速器专用
不能确认的:
- 量产时间——原文没披露,行业分析师估计 2026-2027 才有戏
- 客户名单——没有任何公开的 design win
- 具体带宽数字——没有公布,可能是"实验室跑得出来"的水平,不是量产规格
- 良率和成本——原型阶段谈这个没意义
- 是否真的能绕过 HBM 接口标准——技术细节没公开
换句话说,现在下任何"三星要逆袭"或者"HBM 要被颠覆"的结论都是 PR 稿复读机。我们看到的只是工程信号,不是产品信号。
社区冷,但不应该被忽视
Hacker News 上原帖只有 16 分、3 条评论。讨论度低得反常,可能因为:
- 原文是付费墙后的韩文英文混合报道,信息密度低
- "三星又有新原型"对老读者来说是高频事件,边际信息量不大
- 内存封装的故事对软件工程师天然无感
但这件事的底层问题——内存墙 (memory wall)——是大模型训练和推理的共同瓶颈。
看下数据:H100 的 HBM3 带宽 3.35 TB/s,但 LLM 推理时 KV cache 的访问模式经常让带宽利用率跑到 80% 以上。GPT-4 级别的模型,KV cache 单次推理可能就要搬几百 GB 数据。带宽不够,GPU 算力再强也得空转。
任何在封装层面缩短内存-计算距离的尝试,理论上都能对冲一部分内存墙。哪怕只提升 30% 带宽密度,对推理成本的影响也是结构性的。
所以这件事值得跟踪,即使现在热度低。
如果 zHBM 跑通,谁会先买单
猜一下潜在客户画像,按可能性排序:
最可能:大模型推理芯片厂商
- Groq 的 LPU 架构本身就走 SRAM-on-chip 路线,对低延迟内存极度饥渴
- Cerebras 的晶圆级引擎已经是极端的"计算贴内存"思路,zHBM 跟他们的哲学一致
- SambaNova、Tenstorrent 这类数据流架构厂商也是潜在客户
次可能:HPC 和自研 ASIC 的云厂商
- AWS Trainium2 / 3 已经验证了定制芯片的可行性,如果 zHBM 能把带宽成本压下来,AWS 有动力尝鲜
- Google TPU 已经有自己的 HBM 供应关系,改封装架构的迁移成本高
- Microsoft Maia、Meta MTIA 都是潜在客户,尤其是对推理 TCO 敏感的厂商
最不可能:传统 GPU 厂商
- NVIDIA 短期内不会改插槽和封装设计,HBM 主供还是 SK 海力士
- AMD MI300/MI325 走标准 HBM 路线,封装架构已经定
这意味着 zHBM 的市场定位更接近"定制加速器的内存方案",而不是"通用 HBM 替代品"。市场天花板更低,但客户单价可能更高,因为定制方案溢价空间大。
编辑思考
这件事被低估了,因为封装创新在 AI 算力叙事里一直处于"幕后"。过去十年,大家讲制程 (7nm、5nm、3nm) 讲得最多,讲架构 (GPU vs TPU) 次之,讲封装的几乎没人听。
但封装层的权重正在上升。原因有三:
- 制程升级的边际收益在递减——3nm 到 2nm 的性能提升只有 10-15%,成本涨 30%+
- Chiplet 设计让"拼装"成为主流——单 die 不再追求大,封装层反而是关键瓶颈
- 内存墙问题在 LLM 时代被放大——推理和训练都对带宽极度饥渴
zHBM 不是要取代 HBM,而是给定制芯片多一条路。这跟 NVIDIA 收购 Mellanox、AMD 收购 Pensando 是同一逻辑:算力竞争的下半场,在系统层,不在芯片层。
我的判断:如果三星能在 2026 年底前拿出可量产的 zHBM 并拿下至少一家头部 AI 芯片厂商的设计订单,封装层会成为下一个被热炒的赛道。否则,这件事大概率会跟过去几年的"三星 HBM 革命"新闻一样,消失在从业者的 RSS 订阅里。
不确定的点:zHBM 的热设计是个大问号。内存和逻辑芯片贴在一起,功耗密度可能突破 200W/cm²,现有的散热方案扛不扛得住,目前没有任何公开数据。这是一个可能让整个方案崩盘的物理限制,值得持续跟踪。