深度图解｜AI 巨头们正遭遇一堵怎样的「内存墙」？

前言：

• 更纯粹的存储：$Roundhill Memory ETF(DRAM.US) 
• AI 存储产业链 pro 版：$Tema Memory ETF(DISK.US) 

一、什么是"内存墙"

• 装不下 (容量)：HBM，即高带宽内存每单位现有规格，仍塞不下足够多的 KV 缓存和模型权重。
• 挪不快 (带宽)：数据从内存搬到 GPU 太慢，让 GPU 干等。

生活中，拿物流仓库打比方：装不下，是仓库容量不足，搬不快，是门口搬运的叉车太慢。HBM 产能短缺是当前 AI 算力面临内存墙的主要原因

而且我们从新闻报道知道：

• HBM 特别费产能。 造一颗 HBM 占的晶圆，约等于三颗普通 DDR5。为了提升供应链交付，低端产能就这么被挤出工厂的。

• 扩产又慢又贵。 一台 EUV 光刻机 2 亿美金，一座厂百亿级别，要盖好几年。美光爱达荷厂要 2027 下半年才投产，三星、SK 海力士新线首批出货排到 2027、2028。

• 三大厂这次学聪明了。三星和海力士明明白白告诉投资人: 普通产能不扩了，盈利优先于出货量，产能留给更赚钱的 HBM。

二、难道就没有啥办法，绕过 HBM 吗？

有，还真有几条探索的路线，绕过这笔 “内存税 “！

1、软件派 (有效扩容)，硬件不给力，软件调校！

提前猜你下一步要用哪份数据，趁你没用到，先从便宜闪存搬到贵内存里。

AMD 六月中收编的 MEXT 号称扩 2～4 倍，跟英伟达的 CMX 是同一个路子。"知道该在啥时候把哪份数据调上来"这本事，稀缺。当然预测的卡点在于 “猜错”

2、换料派 (有效扩容)，行业内叫 HBF，高带宽闪存

 把相对便宜些的 NAND 闪存，像 HBM 那样叠起来贴 GPU 旁边，同样体积能装 HBM 的 8 到 16 倍。

缺点是闪存写得慢、读写寿命有限，只能当 HBM 的"补充"，不是替代。谁在做，$闪迪(SNDK.US) 牵头、$SK海力士(SKHY.US)跟进

3、外接派 (有效扩容)  ，叫 CXL，开 “外挂”

在主板外头，额外挂一大批共享内存 (通常是 DDR5 DRAM)，把 KV 缓存推过去。

喊了好几年"元年"没起来，这次靠 KV 缓存这个真需求，终于起来了。TrendForce 六月初的数据显示：2026 年一季度，HBM 每片晶圆的营收，第一次被 DDR5 64GB 那种普通服务器内存条反超了，是个信号

里面最关键的是那颗控制器芯片，供应商是$Astera Labs(ALAB.US) 、$迈威尔科技(MRVL.US) ，还有中国的$澜起科技(06809.HK)

4、存内计算 PIM/PNM(解带宽) ，“盖中盖”😁

把计算电路做进内存里，数据不搬，就地算，据称能省七成能耗。例如 SK 海力士的 AiM、三星的 PIM 系列。但行业标准还没形成统一，不确定性也高。

5、光互连（解带宽）即用光连内存池，换介质

这一层业务度最纯的公司还没上市，例如Celestial AI，以及 Ayar Labs(英伟达和英特尔投的光 I/O)、Lightmatter(光子互连 + 计算)

因此这层暂时，关注更上游的通用光连接组件受益方。主流企业是$博通(AVGO.US)$迈威尔科技(MRVL.US)$Coherent Corp.(COHR.US) $Lumentum控股(LITE.US)$Fabrinet(FN.US)（FN 是代工）

6、3D 堆叠/混合键合 (解带宽) ，改结构

把内存直接叠在 GPU 正上方。其他家新一代 HBM4 代工给了$台积电(TSM.US) ；三星是自己造 (同时握内存和代工厂)；背后参与设备厂有$应用材料(AMAT.US)、BESI 等，详情请搜索官方股单【半导体设备】。堆叠，堆叠，要解决散热问题

7、颠覆派，又叫 SRAM 路线，“新盖中盖”！👀

干脆不用 HBM，把整个模型塞进芯片自带的超大缓存里。

代表是 Groq 和 Cerebras——$英伟达(NVDA.US) 2025 年底掏了自己史上并购最大一笔，200 亿美金把 Groq 收编了。后者就是刚 IPO 上市不久的$Cerebras(CBRS.US) 。

桥友们，看到这里，你认为 HBM（高带宽内存）仍是行业主导吗？或者你认为哪些路线更有前景？一起到讨论区聊聊吧！👏