我是 LongbridgeAI,我可以总结文章信息。原文作者:@fi56622380(X / Twitter)
读完原作者 @fi56622380 的文章后,认为其中对于 AI 推理、HBM、DRAM 与 NAND 供需关系的分析很有深度,特此作学习总结与整理。本文仅为对原文的学习笔记与观点摘要,不代表原创研究;文中的核心论证框架、观点与数据推演均归原作者所有,整理者仅对内容结构与表述进行了归纳。
过去,存储行业通常被视为典型的 commodity 行业:产品标准化、建厂周期长、资本开支巨大,而需求变化却快。因此,价格容易在繁荣与亏损之间剧烈摆动——需求上涨时扩产,产能落地后又供给过剩,最终进入降价、减产、去库存的下一轮循环。
但 AI 推理正在改变这一逻辑。
原文最核心的判断是:HBM、DRAM、NAND 并不是三个彼此独立的涨价故事,而是同一套 AI memory hierarchy,在不同性能、容量与成本层级上的共同重估。
其中,HBM 承担最热、最需要高带宽的数据;DRAM 承担大规模在线工作集;NAND SSD 则承接成本更低、容量更大的数据层。理解这一轮存储,不能只看 PC、手机或传统服务器出货,而应从 AI 推理如何重塑整套分层内存体系出发。
原文提出了三个判断条件:
满足其中一条,只能部分弱化传统周期;满足两到三条,才可能明显改变过去 “供给一来、价格就崩” 的循环。
按这一框架,HBM 大约满足 “两条半”。
它的定制化并非绝对。HBM 的封装、base die、客户协同设计与平台认证存在差异,HBM4 之后定制逻辑可能进一步增加;但上方多层 DRAM die 仍具有较强标准化属性。一家厂商即使在某个客户平台认证受阻,产能也不一定报废,仍可能转供其他 GPU、TPU 或 AI 加速器客户。
因此,HBM 的定制化只能算 “半条”。
但在后两点上,HBM 的优势极强:需求曲线足够陡,技术升级也足够快。
AI 推理进入 token factory 阶段后,GPU 的价值不只取决于计算单元数量,更取决于其持续输出 token 的能力。
原文用一个简化关系概括:
Token throughput ≈ HBM 容量 × HBM 带宽。
在 Attention 与 KV Cache 阶段,系统瓶颈往往不只是算力,也包括缓存容量和数据读取带宽。对模型厂商与云厂商而言,增加 HBM 所带来的 token throughput 提升,很多时候比将同等预算投入其他硬件环节更具经济性。
原文列举的 NVIDIA GPU 侧总 HBM 带宽演进路径,大致为:
2TB/s → 3.5TB/s → 4.8TB/s → 8TB/s → 22TB/s。
HBM 的升级节奏接近两年一代,远快于传统 DDR 的多年一代。容量、带宽、堆叠层数和封装复杂度都在快速抬升。新一代 HBM 即使更贵,带来的推理效率提升也足以让客户持续迁移;而旧一代产品的边际经济性则会快速下降。
这会推动竞争方式发生变化:
这也缓解了传统存储行业下行期最典型的囚徒困境:谁都不愿减产,谁都怕失去份额,最终一起把价格和利润打穿。HBM 的快速迭代与认证门槛,使厂商更有动力争夺下一代技术份额,而不只是堆当前产能。
HBM 的核心需求来自 Attention 与 KV Cache。
未来模型架构当然可能演进:纯 Transformer 可能走向混合架构、MoE 或世界模型;KV Cache 也可能被压缩、分层,或者以新的等价形式存在。
但原文认为,Attention 所解决的是一个非常基础的问题:** 序列中任意位置之间的动态路由。** 它让不同位置的信息能够按需建立联系,这种能力具有很强的普适性。
类似前馈网络在多次架构变革后依然被保留,Attention 大概率也会作为一种基础 primitive 持续存在。即使 KV Cache 的具体实现方式变化,等价的高带宽、大容量缓存需求仍不会轻易消失。
因此,只要 AI 推理继续扩张,依赖 HBM 容量与带宽升级的路线就不容易突然中断。
HBM 并非完全没有周期,而是可能从 “上行赚钱、下行亏损” 的传统周期,逐渐转向 “上行赚得更多、下行仍能维持增长” 的成长型周期。
相比 HBM,市场对 DRAM 能否弱化传统周期的分歧更大。
原因很简单:DRAM 的定制化弱,commodity 属性仍然明显。但原文认为,Agentic AI 正在给 DRAM 带来一个新的、结构性的需求来源。
这个逻辑分为两层。
过去,AI 集群中的 CPU 常被认为只是 GPU 的配角。
但在 Agent workflow 中,工具调用、代码执行、数据库访问、检索、验证、任务编排、上下文处理与 sandbox 隔离,都高度依赖 CPU。CPU 不再只是辅助资源,而是 AI 系统中承担大量运行时工作的重要节点。
原文判断,AI 集群中 CPU 与 GPU 的配比,可能从过去大致 1:4,逐步走向 1:2,甚至进一步接近 1:1。
市场对于 2030 年 CPU TAM 的预测也在持续上修:
这些数字本身当然还存在不确定性,但其方向很明确:AI 基础设施中 CPU 的部署规模和价值量,可能远高于过去把它视作 “GPU 附属资源” 的线性外推。
传统 Web/SaaS 大多是无状态请求:请求进来,分配内存,任务完成后内存即可释放。
但 Agent 是带状态的长驻任务。其 message history、system prompt、工作记忆、长期记忆、工具调用结果、数据库副本和用户上下文,都需要持续驻留在 DRAM 中。
更重要的是,为了数据安全和隔离,sandbox 可能需要为每个任务复制部分数据库与上下文。这种内存消耗并不容易通过简单优化迅速消除。
长上下文、reasoning、test-time compute、并发 Agent 和 sandbox 隔离,会共同推高单任务的 memory footprint。
因此,DRAM 的需求逻辑不再只是 “服务器数量增加”,而是:
更多 CPU 核心 × 每核心更多 DRAM。
原文预计,每个 CPU core 的 DRAM 配置,可能从传统约 4~8GB,提升至约 16~32GB。
原文给出了两组不同口径下的示意性测算:
第一组假设是:2030 年 CPU TAM 约为 3,000 亿美元、每个 CPU core 价值约 50 美元、每 core 配置 16GB DRAM。在这一假设下,对应 DRAM 需求至少约为 96EB。
作为对比,原文估计当前全球 DRAM 年总产量约为 47EB,下一年也仅勉强接近 60EB。
第二组则用于说明需求增长路径:2026 年若 CPU TAM 约为 600 亿美元、每 core 配置约 8GB DRAM,对应需求约为 16EB;到 2030 年,若 CPU TAM 达到约 4,000 亿美元、每 core 配置约 16GB DRAM,对应需求可能达到约 80EB。
两组数字建立在不同的单核价值与配置假设上,因此不能简单合并成 “80~96EB”。但它们都指向同一结论:一旦 Agentic AI 同时推高 CPU 核心数量与每核 DRAM 配比,DRAM 需求可能出现数量级的结构性缺口。
需求端变化之外,DRAM 的供给端也更难快速响应。
第一重约束,是 bit density 红利持续衰减。
过去,行业即使不大规模增加晶圆数量,也能依靠制程进步,让每片 wafer 产出更多 DRAM bit。
原文给出的演变路径是:
过去,即使不大规模新建厂房,行业也可能依靠制程微缩获得较高的 bit volume 增长;但现在,扩产越来越依赖真实 wafer 数量、新建 fab、clean room 与巨额资本开支。
供给反应速度因此更慢,扩产难度也更高。
第二重约束,是 HBM 对普通 DDR 形成的 HBM bit tax。
HBM3E 制造同等 bit 大约需要消耗三倍 DDR wafer 资源,HBM4 可能需要约四倍。随着 HBM 快速扩产,原本可用于 commodity DDR 的部分资源,会被优先分配给 HBM。
原文估计,HBM 扩产每年可能直接吞掉约 3%~5% 的 DDR bit 增长。
即使未来全行业 DRAM bit volume 每年仍能增长约 24%,其中约 14% 来自 wafer 增加、约 9% 来自密度提升;扣除 HBM 对资源的吸收后,真正流向非 HBM commodity DDR 的有效增长,可能只有约 20%。
因此,HBM 与 DRAM 并不是两个完全独立的市场。它们共享同一个 DRAM wafer 资源池:HBM 越强,普通 DDR 可获得的产能越少;普通 DDR 越紧,整个 DRAM complex 的价格与利润率也越容易被共同抬升。
原文还提出了一个很重要的概念:需求蓄水池。
DRAM 涨价时,部分需求并非真正消失,而是因为 ROI 不划算而被延迟;一旦价格回落,这些需求就会迅速释放。
主要包括三类:
第一,用更多内存换算力、换速度的需求。例如,利用额外 GDDR、LPDDR 或 DRAM 优化 prefill、缓存和推理速度的方案,在内存价格过高时可能被推迟;价格回落后,ROI 恢复,这些方案就会重新启动。
第二,低价值 Agent 任务。当内存与 token 成本高企时,企业会优先保留高价值任务,将低优先级、探索型或不需要实时处理的任务延后;成本下降后,这些需求会重新释放。
第三,端侧 AI 与消费电子升级。AI PC、Agent PC、高端手机和本地大模型,都需要更大、更快的内存。此前因为价格压力而被压缩的配置需求,可能在价格回落后重新上调。
这些需求蓄水池意味着:即使供给阶段性改善,DRAM 价格也不一定会像传统周期那样快速崩塌,因为新增需求可能很快吸收掉释放出来的供给。
中国 DRAM 扩产是这一轮供需中无法绕开的变量。
原文梳理的长鑫月产能路径大致为:
但判断冲击不能只看名义 wafer 数量,还要看 bit 密度、制程、良率、产品速率、DDR6 能力与 EUV 限制。
原文认为,长鑫的 DRAM bit 密度与头部厂商仍有差距,按有效 bit 折算,大致约为后者的一半。因此,50 万片/月的名义产能,并不能等同于 50 万片/月先进 DRAM 的有效供给。
按原文折算,2025 年底到 2028 年底,长鑫扩产对全球 DRAM bit 产能 CAGR 的额外影响约为 1.5 个百分点:全球供给 CAGR 大致由不含中国时的约 12.7%,提升至包含中国后的约 14.2%。
即使把时间拉长到 2030 年,原作者判断其额外影响可能仍不到 3 个百分点。
这并不意味着风险不存在。真正需要警惕的是,在全球需求走弱时,行业重新陷入 “谁先减产谁吃亏” 的囚徒困境,主要厂商转向不计回报地抢份额、扩产纪律被打破。
长鑫是变量之一,但行业整体是否维持供给纪律,才是传统周期会不会重演的关键。
NAND 的结构性逻辑没有 HBM 那么直接,也不如 DRAM 那样紧贴 CPU 与 Agent 运行时,但它在 AI memory hierarchy 中同样不可忽视。
原文特别判断:即使大规模 KV Cache offloading 尚未全面发生,当前 SSD 的紧缺程度和涨价幅度已经比 DRAM 更明显。
未来 NAND 的 AI 需求,主要可能来自四个方向:
NAND 的核心优势在于便宜。
它无法替代 HBM 的极限带宽,也不能完全替代 DRAM 的在线工作集,但可以以远低于二者的成本承接大容量、低温数据。因此,只要上层内存足够昂贵,市场就会不断尝试将可下沉的数据转移到 SSD。
HBM、DRAM、NAND 不是简单的替代关系,而是在不同成本、容量与带宽区间中共同分工。
NAND 的风险则在于供给纪律。相比 DRAM,NAND 扩产难度相对更低;若厂商重新进入激进扩产阶段,其波动可能仍大于 HBM 与 DRAM。
这一轮存储的变化,不是 “内存永远涨价”,也不是 “周期从此消失”。
真正变化的是周期的性质。
若 AI 推理需求持续扩张,存储行业面对的可能不再只是过去 “上行赚钱、下行亏损” 的传统循环,而是一轮更长、更陡、更依赖技术能力与供给纪律的成长型周期。
$美光科技(MU.US) $闪迪(SNDK.US) $Roundhill Memory ETF(DRAM.US)
@昆仑山岩石 希望股主点评
原文作者:@fi56622380(X / Twitter)
本文仅为对原文的学习笔记与观点摘要,不代表原创研究。文中的核心论证框架、观点与数据推演均归原作者所有,整理者仅对内容结构与表述进行了归纳。文中涉及产业趋势、价格、供需及技术路线均存在不确定性,不构成投资建议。
:::
本文版权归属于原作者/机构。
以上内容仅代表作者个人观点,不代表平台立场。本内容仅供投资参考,不应被视为投资建议。如您对平台提供的内容服务有任何疑问或建议,请联系我们。
