深度圖解｜AI 巨頭們正遭遇一堵怎樣的「內存牆」？

前言：

• 更純粹的存儲：$Roundhill Memory ETF(DRAM.US) 
• AI 存儲產業鏈 pro 版：$Tema Memory ETF(DISK.US) 

一、什麼是"內存牆"

• 裝不下 (容量)：HBM，即高帶寬內存每單位現有規格，仍塞不下足夠多的 KV 緩存和模型權重。
• 挪不快 (帶寬)：數據從內存搬到 GPU 太慢，讓 GPU 乾等。

生活中，拿物流倉庫打比方：裝不下，是倉庫容量不足，搬不快，是門口搬運的叉車太慢。HBM 產能短缺是當前 AI 算力面臨內存牆的主要原因

而且我們從新聞報道知道：

• HBM 特別費產能。 造一顆 HBM 佔的晶圓，約等於三顆普通 DDR5。為了提升供應鏈交付，低端產能就這麼被擠出工廠的。

• 擴產又慢又貴。 一台 EUV 光刻機 2 億美金，一座廠百億級別，要蓋好幾年。美光愛達荷廠要 2027 下半年才投產，三星、SK 海力士新線首批出貨排到 2027、2028。

• 三大廠這次學聰明瞭。三星和海力士明明白白告訴投資人: 普通產能不擴了，盈利優先於出貨量，產能留給更賺錢的 HBM。

二、難道就沒有啥辦法，繞過 HBM 嗎？

有，還真有幾條探索的路線，繞過這筆 “內存税 “！

1、軟件派 (有效擴容)，硬件不給力，軟件調校！

提前猜你下一步要用哪份數據，趁你沒用到，先從便宜閃存搬到貴內存裏。

AMD 六月中收編的 MEXT 號稱擴 2～4 倍，跟英偉達的 CMX 是同一個路子。"知道該在啥時候把哪份數據調上來"這本事，稀缺。當然預測的卡點在於 “猜錯”

2、換料派 (有效擴容)，行業內叫 HBF，高帶寬閃存

 把相對便宜些的 NAND 閃存，像 HBM 那樣疊起來貼 GPU 旁邊，同樣體積能裝 HBM 的 8 到 16 倍。

缺點是閃存寫得慢、讀寫壽命有限，只能當 HBM 的"補充"，不是替代。誰在做，$閃迪(SNDK.US) 牽頭、$SK海力士(SKHY.US)跟進

3、外接派 (有效擴容)  ，叫 CXL，開 “外掛”

在主板外頭，額外掛一大批共享內存 (通常是 DDR5 DRAM)，把 KV 緩存推過去。

喊了好幾年"元年"沒起來，這次靠 KV 緩存這個真需求，終於起來了。TrendForce 六月初的數據顯示：2026 年一季度，HBM 每片晶圓的營收，第一次被 DDR5 64GB 那種普通服務器內存條反超了，是個信號

裏面最關鍵的是那顆控制器芯片，供應商是$Astera Labs(ALAB.US) 、$邁威爾科技(MRVL.US) ，還有中國的$瀾起科技(06809.HK)

4、存內計算 PIM/PNM(解帶寬) ，“蓋中蓋”😁

把計算電路做進內存裏，數據不搬，就地算，據稱能省七成能耗。例如 SK 海力士的 AiM、三星的 PIM 系列。但行業標準還沒形成統一，不確定性也高。

5、光互連（解帶寬）即用光連內存池，換介質

這一層業務度最純的公司還沒上市，例如Celestial AI，以及 Ayar Labs(英偉達和英特爾投的光 I/O)、Lightmatter(光子互連 + 計算)

因此這層暫時，關注更上游的通用光連接組件受益方。主流企業是$博通(AVGO.US)$邁威爾科技(MRVL.US)$Coherent Corp.(COHR.US) $Lumentum控股(LITE.US)$Fabrinet(FN.US)（FN 是代工）

6、3D 堆疊/混合鍵合 (解帶寬) ，改結構

把內存直接疊在 GPU 正上方。其他家新一代 HBM4 代工給了$台積電(TSM.US) ；三星是自己造 (同時握內存和代工廠)；背後參與設備廠有$應用材料(AMAT.US)、BESI 等，詳情請搜索官方股單【半導體設備】。堆疊，堆疊，要解決散熱問題

7、顛覆派，又叫 SRAM 路線，“新蓋中蓋”！👀

乾脆不用 HBM，把整個模型塞進芯片自帶的超大緩存裏。

代表是 Groq 和 Cerebras——$英偉達(NVDA.US) 2025 年底掏了自己史上併購最大一筆，200 億美金把 Groq 收編了。後者就是剛 IPO 上市不久的$Cerebras(CBRS.US) 。

橋友們，看到這裏，你認為 HBM（高帶寬內存）仍是行業主導嗎？或者你認為哪些路線更有前景？一起到討論區聊聊吧！👏