<p style="text-align: left">高带宽内存（HBM）作为下一代动态随机存取存储器（DRAM）技术，其核心创新在于独特的 3D 堆叠结构 —— 通过先进封装技术将多个 DRAM 芯片（通常为 4 层、8 层甚至 12 层）垂直堆叠。这种结构使 HBM 的带宽（数据传输速率）远高于 GDDR 等传统内存解决方案。</p>
<p style="text-align: left"><img class=" wscnph" src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/0fc591ba-7ad9-4625-b59d-b579f4122726.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="501" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/0fc591ba-7ad9-4625-b59d-b579f4122726.png"/></p>
<p style="text-align: left">凭借高带宽、低延迟的特性，HBM 已成为 AI 大模型训练与推理的关键组件。在 AI 芯片中，它扮演着 “L4 缓存” 的角色，能够显著提升数据读写效率，有效缓解内存带宽瓶颈，进而大幅增强 AI 模型的运算能力。</p>
<section>
<h2>HBM 市场，SK 海力士独领风骚</h2>
<section></section>
</section>
<p>依托 HBM 技术的领先优势，SK 海力士在行业中的地位持续攀升。市场数据显示，自 2024 年第二季度起，美光与 SK 海力士的 DRAM 市场份额持续增长，三星则逐步下滑；而在 HBM 领域，原本与三星近乎平分秋色的格局被打破，截至今年第一季度，两者份额差距已扩大至两倍以上。</p>
<p>更具标志性的是，今年第二季度，SK 海力士以约 21.8 万亿韩元的 DRAM 及 NAND 销售额，首次超越三星电子（约 21.2 万亿韩元），登顶全球存储销售额榜首。这一突破很大程度上得益于其 HBM 产品的强势表现 —— 作为英伟达的主要独家供应商，SK 海力士早期虽未在 HBM 市场脱颖而出，但随着全球 AI 开发热潮兴起，其高性能、高效率的产品需求激增，增长显著。</p>
<p>其中，第五代高带宽内存 HBM3E 是关键推手。该产品具备高带宽、低功耗优势，广泛应用于 AI 服务器、GPU 等高性能计算领域，2023 至 2024 年间吸引了 AMD、英伟达、微软、亚马逊等科技巨头竞相采购，而 SK 海力士是全球唯一大规模生产 HBM3E 的厂商，其 2025 年的 8 层及 12 层 HBM3E 产能已全部售罄。</p>
<p>反观三星电子，因向英伟达交付延迟错失良机，尤其在 AI 市场应用最广的 HBM3E 领域，去年和今年均大幅落后于 SK 海力士，市场份额从去年第二季度的 41% 暴跌至今年第二季度的 17%，甚至有报道称其未通过英伟达第三次 HBM3E 认证。</p>
<p>对于未来，光大证券预计 HBM 市场需求将持续增长，带动存储产业链发展；花旗证券则预测，SK 海力士将继续主导 HBM 市场。显然，SK 海力士有望在 AI 时代成为 “存储器恐龙”。</p>
<section>
<h2>存储厂商开发<span>HBM 替代方案</span></h2>
<section></section>
</section>
<p>面对 SK 海力士的强势表现，行业内其他厂商纷纷加速技术创新，探索 HBM 的替代方案。</p>
<p><strong>三星重启 Z-NAND</strong></p>
<p>三星电子在搁置七年后，决定重启 Z-NAND 内存技术，并将其定位为满足人工智能（AI）工作负载增长需求的高性能解决方案。这一消息于 2025 年美国未来内存与存储（FMS）论坛上正式公布，标志着三星重新进军高端企业存储领域。</p>
<p>三星内存业务执行副总裁 Hwaseok Oh 在活动中表示，公司正全力重新开发 Z-NAND，目标是将其性能提升至传统 NAND 闪存的 15 倍，同时把功耗降低多达 80%。即将推出的新一代 Z-NAND 将搭载 GPU 发起的直接存储访问（GIDS）技术，让 GPU 可直接从存储器获取数据，无需经过 CPU 或 DRAM。该架构旨在最大限度降低延迟，加速大型 AI 模型的训练与推理进程。</p>
<p>Z-NAND 的复苏，折射出行业正发生广泛转变 —— 快速扩展的 AI 模型已逐渐超越传统存储基础设施的承载能力。在当前系统中，数据需从 SSD 经 CPU 传至 DRAM，再送达 GPU，这一过程形成严重瓶颈，既导致性能下降，又增加了能耗。而三星支持 GIDS 的架构，可消除这些瓶颈，允许 GPU 将大型数据集从存储器直接加载到 VRAM 中。Oh 指出，这种直接集成能显著缩短大型语言模型（LLM）及其他计算密集型 AI 应用的训练周期。</p>
<p>事实上，三星早在 2018 年就首次推出 Z-NAND 技术，并发布了面向企业级和高性能计算（HPC）应用的 SZ985 Z-SSD。这款 800GB 固态硬盘基于 48 层 V-NAND 和超低延迟控制器，顺序读取速度高达 3200MB/s，随机读取性能达 750K IOPS、写入速度达 170K IOPS，延迟均低于 20 微秒，性能较现有 SSD 高出五倍以上，读取速度更是比传统 3 位 V-NAND 快十倍以上。此外，SZ985 配备 1.5GB 节能 LPDDR4 DRAM，额定写入容量高达 42PB（相当于可存储全高清电影 840 万次），并凭借 200 万小时的平均故障间隔时间（MTBF）保障可靠性。</p>
<p><strong>X-HBM 架构重磅登场</strong></p>
<p>NEO Semiconductor 则重磅推出全球首款适用于 AI 芯片的超高带宽内存（X-HBM）架构。该架构基于其自研的 3D X-DRAM 技术，成功突破传统 HBM 在带宽与容量上的固有瓶颈，其发布或将引领内存产业迈入 AI 时代的 “超级内存” 新阶段。</p>
<p>相比之下，目前仍处于开发阶段、预计 2030 年左右上市的 HBM5，仅支持 4K 位数据总线和每芯片 40Gbit 的容量；韩国科学技术院（KAIST）的最新研究预测，即便是预计 2040 年左右推出的 HBM8，也仅能实现 16K 位总线和每芯片 80Gbit 的容量。</p>
<p>而 X-HBM 却凭借 32K 位总线和每芯片 512Gbit 的容量，可让 AI 芯片设计人员直接绕过传统 HBM 技术需耗时十年才能逐步突破的性能瓶颈。据介绍，X-HBM 的带宽达到现有内存技术的 16 倍，密度为现有技术的 10 倍 —— 其 32Kbit 数据总线与单芯片最高 512Gbit 的存储容量所带来的卓越性能，能显著打破传统 HBM 的局限性，精准满足生成式 AI 与高性能计算日益增长的需求。</p>
<p><strong>Saimemory 开发堆叠式 DRAM</strong></p>
<p>由软银、英特尔与东京大学联合创立的 Saimemory，正研发全新堆叠式 DRAM 架构，目标是成为 HBM 的直接替代方案，甚至实现性能超越。</p>
<p>这家新公司的技术路径聚焦于 3D 堆叠架构优化：通过垂直堆叠多颗 DRAM 芯片，并改进芯片间互连技术（例如采用英特尔的嵌入式多芯片互连桥接技术 EMIB），在提升存储容量的同时降低数据传输功耗。根据规划，其目标产品将实现容量较传统 DRAM 提升至少一倍，功耗较 HBM 降低 40%-50%，且成本显著低于现有 HBM 方案。</p>
<p>这一技术路线与三星、NEO Semiconductor 等企业形成差异化 —— 后者聚焦容量提升，目标实现单模块 512GB 容量；而 Saimemory 更侧重解决 AI 数据中心的电力消耗痛点，契合当前绿色计算的行业趋势。</p>
<p>在技术合作层面，英特尔提供先进封装技术积累，东京大学等日本学术机构贡献存储架构专利，软银则以 30 亿日元注资成为最大股东。初期 150 亿日元研发资金将用于 2027 年前完成原型设计及量产评估，计划 2030 年实现商业化落地。</p>
<p><strong>闪迪联手 SK 海力士推进 HBF 高带宽闪存</strong></p>
<p>闪迪与 SK 海力士近日宣布签署谅解备忘录，双方将联合制定高带宽闪存（High Bandwidth Flash，HBF）规范。这一合作源于闪迪今年 2 月首次提出的 HBF 概念 —— 一种专为 AI 领域设计的新型存储架构，其核心是融合 3D NAND 闪存与高带宽存储器（HBM）的技术特性。按计划，闪迪将于 2026 年下半年推出首批 HBF 内存样品，采用该技术的 AI 推理设备样品则预计在 2027 年初上市。</p>
<p>作为基于 NAND 闪存的内存技术，HBF 创新性地采用类 HBM 封装形式，相较成本高昂的传统 HBM，能显著提升存储容量并降低成本，同时具备数据断电保留的非易失性优势。这一突破标志着业界首次将闪存的存储特性与类 DRAM 的高带宽性能整合到单一堆栈中，有望重塑 AI 模型大规模数据访问与处理的模式。</p>
<p>与完全依赖 DRAM 的传统 HBM 相比，HBF 通过用 NAND 闪存替代部分内存堆栈，在适度牺牲原始延迟的前提下，可在成本与带宽接近 DRAM 型 HBM 的基础上，将容量提升至后者的 8-16 倍。此外，不同于需持续供电以保存数据的 DRAM，NAND 的非易失性让 HBF 能以更低能耗实现持久存储。</p>
<section>
<section>多维度架构创新降低<span>HBM 依赖</span></section>
<section></section>
</section>
<p>除了在存储技术上持续创新，厂商们也在积极探索 AI 领域的架构革新，以期降低对 HBM 的依赖。</p>
<p><strong>存算一体架构</strong></p>
<p>上世纪 40 年代，随着现代史上第一台计算机的诞生，基于 “存储 - 计算分离” 原理的冯・诺依曼架构应运而生，此后的芯片设计也基本沿用这一架构。在近 70 年的现代芯片行业发展中，技术进步多集中于软件与硬件的优化设计，计算机的底层架构始终未发生根本性改变。</p>
<p>存算一体（Processing-In-Memory, PIM 或 Compute-in-Memory, CIM）正是在这一背景下被提出的创新架构。其核心理念是在存储器本体或邻近位置集成计算功能，从而规避传统架构中 “计算 — 存储 — 数据搬运” 的固有瓶颈。通过在存储单元内部直接部署运算单元，物理上缩短数据传输距离，存算一体架构能够整合计算与存储单元，优化数据传输路径，突破传统芯片的算力天花板。这不仅能缩短系统响应时间，更能使能效比实现数量级提升。一旦技术成熟，有望将对高带宽内存的依赖度降低一个数量级，部分替代 HBM 的功能。</p>
<p><strong>华为的 AI 突破性技术成果</strong></p>
<p>华为近期发布的 UCM（推理记忆数据管理器），是一款以 KV Cache（键值缓存）为核心的推理加速套件。它融合了多种缓存加速算法工具，可对推理过程中产生的 KV Cache 记忆数据进行分级管理，有效扩大推理上下文窗口，从而实现高吞吐、低时延的推理体验，降低每个 Token（词元）的推理成本。通过这一创新架构设计，UCM 能够减少对高带宽内存（HBM）的依赖，同时显著提升国产大模型的推理性能。</p>
<h2>未来将是多<span>层级架构的时代</span></h2>
<section>
<section></section>
</section>
<p>无论是训练还是推理场景，算力与存储都是率先受益的领域，二者将成为决定未来十年 AI 竞争格局的关键因素。</p>
<p>与 GPGPU 产品类似，HBM（尤其是 HBM3 及以上规格）需求旺盛，且长期被国外厂商垄断。2025 年初，HBM3 芯片现货价格较 2024 年初暴涨 300%，而单台 AI 服务器的 DRAM 用量更是达到传统服务器的 8 倍。从市场格局看，海外厂商仍占据主导地位：SK 海力士以 53% 的份额领先，且率先实现 HBM3E 量产；三星电子占比 38%，计划 2025 年将 HBM 供应量提升至去年的两倍；美光科技目前份额为 10%，目标是 2025 年将市占率提升至 20% 以上。</p>
<p>尽管 HBM 凭借卓越性能在高端 AI 应用领域站稳脚跟，但随着其他内存技术在成本控制、性能提升及功耗优化等方面的持续突破，其未来或将面临新兴技术的竞争压力。不过从短期来看，HBM 仍是高带宽需求场景的首选方案。</p>
<p>从长期发展趋势看，市场将随技术演进与应用需求变化不断调整优化。未来 AI 内存市场并非简单的 “替代与被替代” 关系，HBM 替代方案的创新呈现出 “架构哲学的多样性”，而非单一技术迭代。可以预见，AI 计算与内存领域不会出现全面取代 HBM 的 “唯一赢家”，取而代之的将是更复杂、分散化且贴合具体场景的内存层级结构 —— 单一内存解决方案主导高性能计算的时代正在落幕。</p>
<p>未来的 AI 内存版图将是异构多元的层级体系：HBM 聚焦训练场景，PIM 内存服务于高能效推理，专用片上内存架构适配超低延迟应用，新型堆叠 DRAM 与光子互连等技术也将在系统中占据一席之地。各类技术针对特定工作负载实现精准优化，共同构成 AI 时代的内存生态。</p>
<p style="text-align: left"><span style="color: #808080">本文作者：鹏程，来源：半导体产业纵横，原文标题：《HBM，挑战加倍》</span></p><div style="color: #666">风险提示及免责条款</div>
          <div style="color: #666">
            市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。
          </div>

英伟达

<p>高带宽内存（HBM）作为下一代 DRAM 技术，凭借其独特的 3D 堆叠结构和高带宽、低延迟的特性，成为 AI 大模型训练的关键组件。SK 海力士在 HBM 市场中表现强劲，市场份额显著增长，2024 年第二季度超越三星电子，成为全球存储销售额榜首。HBM3E 产品因其高性能和低功耗受到 AMD、英伟达等科技巨头的青睐，SK 海力士是唯一大规模生产 HBM3E 的厂商。</p>

- 高带宽内存（HBM）通过 3D 堆叠结构提升数据传输速率。  
- SK 海力士在 HBM 市场占据主导地位，销售额超越三星。  
- 行业内其他厂商加速开发 HBM 替代方案，寻求技术创新。  