--- title: "深度图解|AI 巨头们正遭遇一堵怎样的「内存墙」?" type: "Topics" locale: "zh-CN" url: "https://longbridge.com/zh-CN/topics/42466364.md" description: "前言:更纯粹的存储:$Roundhill Memory ETF(DRAM.US) AI 存储产业链 pro 版:$Tema Memory ETF(DISK.US) 一、什么是"内存墙"装不下 (容量):HBM,即高带宽内存每单位现有规格,仍塞不下足够多的 KV 缓存和模型权重。挪不快 (带宽):数据从内存搬到 GPU 太慢,让 GPU 干等。生活中,拿物流仓库打比方:装不下,是仓库容量不足..." datetime: "2026-07-07T11:47:17.000Z" locales: - [en](https://longbridge.com/en/topics/42466364.md) - [zh-CN](https://longbridge.com/zh-CN/topics/42466364.md) - [zh-HK](https://longbridge.com/zh-HK/topics/42466364.md) author: "[热点君](https://longbridge.com/zh-CN/profiles/1450684.md)" --- # 深度图解|AI 巨头们正遭遇一堵怎样的「内存墙」? ## 前言: - 更纯粹的存储:$Roundhill Memory ETF(DRAM.US)  - AI 存储产业链 pro 版:$Tema Memory ETF(DISK.US)  ## **一、什么是"内存墙"** - **装不下 (容量):HBM,即高带宽内存**每单位现有规格,仍塞不下足够多的 KV 缓存和模型权重。 - **挪不快 (带宽):**数据从内存搬到 GPU 太慢,让 GPU 干等。 生活中,拿物流仓库打比方:装不下,是仓库容量不足,搬不快,是门口搬运的叉车太慢。**HBM 产能短缺是当前 AI 算力面临内存墙的主要原因** ![Image](https://pub.pbkrs.com/uploads/2026/468deb7b9e52fcd026fd6450c70d4c86?x-oss-process=style/lg) **而且我们从新闻报道知道:** - **HBM 特别费产能。** 造一颗 HBM 占的晶圆,约等于三颗普通 DDR5。为了提升供应链交付,低端产能就这么被挤出工厂的。 - **扩产又慢又贵。** 一台 EUV 光刻机 2 亿美金,一座厂百亿级别,要盖好几年。美光爱达荷厂要 2027 下半年才投产,三星、SK 海力士新线首批出货排到 2027、2028。 - **三大厂这次学聪明了。**三星和海力士明明白白告诉投资人: 普通产能不扩了,盈利优先于出货量,产能留给更赚钱的 HBM。 ## **二、难道就没有啥办法,绕过 HBM 吗?** 有,还真有几条探索的路线,绕过这笔 “内存税 “! #### **1、软件派 (有效扩容),硬件不给力,软件调校!** 提前猜你下一步要用哪份数据,趁你没用到,先从便宜闪存搬到贵内存里。 AMD 六月中收编的 MEXT 号称扩 2~4 倍,跟英伟达的 CMX 是同一个路子。"知道该在啥时候把哪份数据调上来"这本事,稀缺。当然预测的卡点在于 “猜错” #### 2、**换料派 (有效扩容),行业内叫 HBF,高带宽闪存**  把相对便宜些的 NAND 闪存,像 HBM 那样叠起来贴 GPU 旁边,同样体积能装 HBM 的 8 到 16 倍。 缺点是闪存写得慢、读写寿命有限,只能当 HBM 的"补充",不是替代。谁在做,$闪迪(SNDK.US) 牵头、$SK海力士(SKHY.US)跟进 #### **3、外接派 (有效扩容)  ,叫 CXL,开 “外挂”** 在主板外头,额外挂一大批共享内存 (通常是 DDR5 DRAM),把 KV 缓存推过去。 喊了好几年"元年"没起来,这次靠 KV 缓存这个真需求,终于起来了。**TrendForce 六月初的数据显示:****2026 年一季度,HBM 每片晶圆的营收,第一次被 DDR5 64GB 那种普通服务器内存条反超了,是个信号** 里面最关键的是那颗**控制器芯片,**供应商是$Astera Labs(ALAB.US) 、$迈威尔科技(MRVL.US) ,还有中国的$澜起科技(06809.HK) #### **4、存内计算 PIM/PNM(解带宽)** **,“盖中盖”😁** 把计算电路做进内存里,数据不搬,就地算,据称能省七成能耗。例如 SK 海力士的 AiM、三星的 PIM 系列。但行业标准还没形成统一,不确定性也高。 #### **5、光互连(解带宽)即用光连内存池,换介质** 这一层业务度最纯的公司还没上市,例如**Celestial AI**,以及 **Ayar Labs**(英伟达和英特尔投的光 I/O)、**Lightmatter**(光子互连 + 计算) 因此这层暂时,关注更上游的通用光连接组件受益方。主流企业是$博通(AVGO.US)$迈威尔科技(MRVL.US)$Coherent Corp.(COHR.US) $Lumentum控股(LITE.US)$Fabrinet(FN.US)(FN 是代工) #### **6、3D 堆叠/混合键合 (解带宽)** ,改结构 把内存直接叠在 GPU 正上方。其他家新一代 HBM4 代工给了$台积电(TSM.US) ;三星是自己造 (同时握内存和代工厂);背后参与设备厂有$应用材料(AMAT.US)、BESI 等,详情请搜索官方股单【半导体设备】。**堆叠,堆叠,要解决散热问题** #### **7、颠覆派,又叫 SRAM 路线,“新盖中盖”!👀** 干脆不用 HBM,把整个模型塞进芯片自带的超大缓存里。 代表是 Groq 和 Cerebras——$英伟达(NVDA.US) 2025 年底掏了自己史上并购最大一笔,200 亿美金把 Groq 收编了。后者就是刚 IPO 上市不久的$Cerebras(CBRS.US) 。 桥友们,看到这里,你认为 HBM(高带宽内存)仍是行业主导吗?或者你认为哪些路线更有前景?一起到讨论区聊聊吧!👏 ### 相关股票 - [AMD.US](https://longbridge.com/zh-CN/quote/AMD.US.md) - [MRVL.US](https://longbridge.com/zh-CN/quote/MRVL.US.md) - [688008.CN](https://longbridge.com/zh-CN/quote/688008.CN.md) - [DRAM.US](https://longbridge.com/zh-CN/quote/DRAM.US.md) - [AMAT.US](https://longbridge.com/zh-CN/quote/AMAT.US.md) - [MU.US](https://longbridge.com/zh-CN/quote/MU.US.md) - [CBRS.US](https://longbridge.com/zh-CN/quote/CBRS.US.md) - [SKHY.US](https://longbridge.com/zh-CN/quote/SKHY.US.md) - [NVDA.US](https://longbridge.com/zh-CN/quote/NVDA.US.md) - [SSNGY.US](https://longbridge.com/zh-CN/quote/SSNGY.US.md) - [FN.US](https://longbridge.com/zh-CN/quote/FN.US.md) - [AVGO.US](https://longbridge.com/zh-CN/quote/AVGO.US.md) - [COHR.US](https://longbridge.com/zh-CN/quote/COHR.US.md) - [DISK.US](https://longbridge.com/zh-CN/quote/DISK.US.md) - [ALAB.US](https://longbridge.com/zh-CN/quote/ALAB.US.md) - [06809.HK](https://longbridge.com/zh-CN/quote/06809.HK.md) - [INTC.US](https://longbridge.com/zh-CN/quote/INTC.US.md) - [LITE.US](https://longbridge.com/zh-CN/quote/LITE.US.md) - [TSM.US](https://longbridge.com/zh-CN/quote/TSM.US.md) - [SNDK.US](https://longbridge.com/zh-CN/quote/SNDK.US.md) - [04335.HK](https://longbridge.com/zh-CN/quote/04335.HK.md) ## 评论 (2) - **阿美利卡盈利螺 · 2026-07-07T15:24:32.000Z**: 感谢分享 - **热点君** (2026-07-07T15:58:58.000Z): 🤝