<p>, /PRNewswire/ -- 人工智能（AI）工作负载的快速扩展迫使数据中心基础设施进行根本性重新设计，导致历史性的内存短缺，并为替代内存技术打开了一个难得的市场窗口，ChannelScience 创始人兼 Chiplet Summit 主席 Chuck Sobey 表示。</p>
<p>继续阅读</p>
<p><img src="https://imageproxy.pbkrs.com/https://www.prnewswire.com/news-releases/null?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" alt="" original-src="https://imageproxy.pbkrs.com/https://www.prnewswire.com/news-releases/null"/></p>
<p>来源：Digitimes</p>
<p>在谈到行业转变时，Sobey 强调 AI 工作负载在结构上与传统企业任务不同。虽然传统工作负载对 CPU、网络和存储施加压力——常常使处理器等待 I/O——但现代 AI 任务，如深度学习训练、大型语言模型（LLM）推理和检索增强生成（RAG），在内存带宽上受到严重限制。</p>
<p><strong>带宽差距和电力危机</strong></p>
<p>AI 时代的需求是前所未有的。Sobey 指出，AI 系统可能需要高达每秒 10 太字节（TB/s）的 GPU 内存访问——大约是标准 DDR5 带宽的 50 到 200 倍。与处理千字节的网络和云请求不同，AI 访问涉及的是以千兆字节为单位的张量，要求算法能够利用整个内存存储层次结构。</p>
<p>这种架构压力带来了深远的经济后果。Sobey 将现代 AI 数据中心描述为一个 “令牌工厂”，其收入完全来自处理令牌。目前，这些设施的限制在于电力和内存，而不是计算能力。电力密度要求正在飙升，迫使机架重新设计以支持高达一兆瓦——超出以前标准的 10 到 100 倍。</p>
<p>供应链已经在这种压力下崩溃。Sobey 指出，内存行业出现了历史性的短缺，特别是高性能服务器内存，订单的履行率仅为 70%，价格上涨高达 50%。对于除最大规模的超大规模数据中心外，确保必要的内存库存变得越来越困难。</p>
<p><strong>芯片组：MRAM 和 RRAM 的入口</strong></p>
<p>Sobey 将这种供应/电力危机视为 “替代内存” 的战略切入点——如 MRAM（磁阻 RAM）、RRAM（电阻 RAM）和相变内存（PCM）等技术，它们缺乏现有厂商的专用数十亿美元的晶圆厂。</p>
<p>芯片组架构是这一转型的关键推动力。通过将功能从单一的 ASIC 解耦为更小的单元，芯片组允许设计师整合替代内存所需的特殊材料，而不污染高端逻辑制造过程。这种异构集成带来了特定的性能优势，如辐射耐受性或高温抗性，Sobey 认为这些是超越简单成本主张的必要差异化因素。</p>
<p><strong>新的 “五秒规则”</strong></p>
<p>AI 的速度也在压缩经济经验法则。Sobey 观察到，长期以来的 “五分钟规则”——即如果在五分钟内访问的数据应保留在 DRAM 中——已加速为 “五秒规则”。在 AI 时代，如果数据在五秒内未被访问，成本效益分析表明它必须从昂贵的快速内存层中剔除。</p>
<p>Sobey 表示，目前 AI 的激增不是微小的涟漪，而是一股汇聚的浪潮，他认为供应商需要现在就巩固自己的地位，以便在定价和供应链最终稳定时保持竞争优势。</p>
<p>Sobey 将在 2025 年 12 月 5 日的 <strong><em>DIGITIMES 网络研讨会</em></strong> 和定于 2026 年 2 月 17-19 日在加利福尼亚州圣克拉拉举行的 <strong>Chiplet Summit</strong> 上进一步讨论芯片组对内存存储层次结构的影响。</p>
<p>来源：DIGITIMES ASIA</p>
<p><img src="https://imageproxy.pbkrs.com/https://rt.prnewswire.com/rt.gif/query-RGF0ZUlkPTIwMjUxMjAxJk5ld3NJdGVtSWQ9SEszNjk0NCZUcmFuc21pc3Npb25fSWQ9MjAyNTEyMDEyMTUwUFJfTkVXU19VU1BSX19fX19ISzM2OTQ0?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" alt="" original-src="https://imageproxy.pbkrs.com/https://rt.prnewswire.com/rt.gif/query-RGF0ZUlkPTIwMjUxMjAxJk5ld3NJdGVtSWQ9SEszNjk0NCZUcmFuc21pc3Npb25fSWQ9MjAyNTEyMDEyMTUwUFJfTkVXU19VU1BSX19fX19ISzM2OTQ0"/></p>

Everspin科技

<p>AI 工作负载的快速扩展正在推动数据中心基础设施的根本重设计，导致内存短缺，并为 MRAM 和 RRAM 等替代内存技术创造了机会。Chuck Sobey 强调了 AI 系统对内存带宽和功率密度的前所未有的需求，这导致了经济后果和供应链压力。芯片组架构被确定为整合替代内存的关键推动力。Sobey 将在即将举行的活动中进一步讨论这些影响</p>

<p>, /PRNewswire/ -- The rapid expansion of artificial intelligence (AI) workloads is forcing a fundamental redesign of data center infrastructure, driving historic memory shortages and opening a rare market window for alternative memory technologies, according to Chuck Sobey, founder of ChannelScience and general chair of the Chiplet Summit.</p>
<div class="lb-trans"><p>, /PRNewswire/ -- 人工智能（AI）工作负载的快速扩展迫使数据中心基础设施进行根本性重新设计，导致历史性的内存短缺，并为替代内存技术打开了一个难得的市场窗口，ChannelScience 创始人兼 Chiplet Summit 主席 Chuck Sobey 表示。</p>
</div><p>Continue Reading</p>
<div class="lb-trans"><p>继续阅读</p>
</div><p><img src="https://imageproxy.pbkrs.com/https://www.prnewswire.com/news-releases/null" alt="" original-src="https://www.prnewswire.com/news-releases/null"/></p>
<p>Credit: Digitimes</p>
<div class="lb-trans"><p>来源：Digitimes</p>
</div><p>Speaking on the industry's shift, Sobey highlighted that AI workloads differ structurally from traditional enterprise tasks. While legacy workloads stress the CPU, network, and storage—often leaving processors waiting for I/O—modern AI tasks, such as deep learning training, large language model (LLM) inference, and retrieval-augmented generation (RAG), are critically bound by memory bandwidth.</p>
<div class="lb-trans"><p>在谈到行业转变时，Sobey 强调 AI 工作负载在结构上与传统企业任务不同。虽然传统工作负载对 CPU、网络和存储施加压力——常常使处理器等待 I/O——但现代 AI 任务，如深度学习训练、大型语言模型（LLM）推理和检索增强生成（RAG），在内存带宽上受到严重限制。</p>
</div><p><strong>The bandwidth gap and power crisis</strong></p>
<div class="lb-trans"><p><strong>带宽差距和电力危机</strong></p>
</div><p>The demands of the AI era are unprecedented. Sobey noted that AI systems can require up to 10 terabytes per second (TB/s) of GPU memory access—roughly 50 to 200 times the bandwidth of standard DDR5. Unlike web and cloud requests that deal in kilobytes, AI accesses involve gigabyte-sized tensors, necessitating algorithms that exercise the entire memory storage hierarchy.</p>
<div class="lb-trans"><p>AI 时代的需求是前所未有的。Sobey 指出，AI 系统可能需要高达每秒 10 太字节（TB/s）的 GPU 内存访问——大约是标准 DDR5 带宽的 50 到 200 倍。与处理千字节的网络和云请求不同，AI 访问涉及的是以千兆字节为单位的张量，要求算法能够利用整个内存存储层次结构。</p>
</div><p>This architectural strain has profound economic consequences. Sobey described the modern AI data center as a &#34;token factory,&#34; where revenue is derived strictly from processing tokens. Currently, these facilities are power-limited and memory-limited rather than compute-limited. Power density requirements are skyrocketing, forcing rack redesigns to support up to one megawatt—exceeding previous standards by 10 to 100 times.</p>
<div class="lb-trans"><p>这种架构压力带来了深远的经济后果。Sobey 将现代 AI 数据中心描述为一个 “令牌工厂”，其收入完全来自处理令牌。目前，这些设施的限制在于电力和内存，而不是计算能力。电力密度要求正在飙升，迫使机架重新设计以支持高达一兆瓦——超出以前标准的 10 到 100 倍。</p>
</div><p>Supply chains are already buckling under this pressure. Sobey pointed to a historic shortage in the memory sector, specifically for high-performance server memory, with reports of a 70% fulfillment rate for orders and price surges of up to 50%. Securing necessary memory inventory is becoming increasingly difficult for all but the largest hyperscalers.</p>
<div class="lb-trans"><p>供应链已经在这种压力下崩溃。Sobey 指出，内存行业出现了历史性的短缺，特别是高性能服务器内存，订单的履行率仅为 70%，价格上涨高达 50%。对于除最大规模的超大规模数据中心外，确保必要的内存库存变得越来越困难。</p>
</div><p><strong>Chiplets: the gateway for MRAM and RRAM</strong></p>
<div class="lb-trans"><p><strong>芯片组：MRAM 和 RRAM 的入口</strong></p>
</div><p>Sobey identified this supply/power crunch as a strategic entry point for &#34;alternative memories&#34;—technologies like MRAM (magnetoresistive RAM), RRAM (resistive RAM), and phase change memory (PCM) that lack the dedicated, multi-billion-dollar fabs of incumbents.</p>
<div class="lb-trans"><p>Sobey 将这种供应/电力危机视为 “替代内存” 的战略切入点——如 MRAM（磁阻 RAM）、RRAM（电阻 RAM）和相变内存（PCM）等技术，它们缺乏现有厂商的专用数十亿美元的晶圆厂。</p>
</div><p>The chiplet architecture is the critical enabler for this transition. By disaggregating functions from monolithic ASICs into smaller units, chiplets allow designers to integrate esoteric materials required for alternative memory without contaminating high-end logic fabrication processes. This heterogeneous integration allows for specific performance advantages, such as radiation tolerance or high-temperature resilience, which Sobey argues are necessary differentiators beyond simple cost claims.</p>
<div class="lb-trans"><p>芯片组架构是这一转型的关键推动力。通过将功能从单一的 ASIC 解耦为更小的单元，芯片组允许设计师整合替代内存所需的特殊材料，而不污染高端逻辑制造过程。这种异构集成带来了特定的性能优势，如辐射耐受性或高温抗性，Sobey 认为这些是超越简单成本主张的必要差异化因素。</p>
</div><p><strong>The new &#34;five-second rule&#34;</strong></p>
<div class="lb-trans"><p><strong>新的 “五秒规则”</strong></p>
</div><p>The velocity of AI is also compressing economic rules of thumb. Sobey observed that the long-standing &#34;five-minute rule&#34;—which dictates data should be kept in DRAM if accessed within five minutes—has accelerated to a &#34;five-second rule.&#34; In the AI era, if data is not accessed within five seconds, the cost-benefit analysis dictates it must be ejected from expensive, fast memory tiers.</p>
<div class="lb-trans"><p>AI 的速度也在压缩经济经验法则。Sobey 观察到，长期以来的 “五分钟规则”——即如果在五分钟内访问的数据应保留在 DRAM 中——已加速为 “五秒规则”。在 AI 时代，如果数据在五秒内未被访问，成本效益分析表明它必须从昂贵的快速内存层中剔除。</p>
</div><p>Sobey said the current surge in AI is no mere ripple but a gathering wave, arguing that suppliers need to secure their positions now if they hope to retain an edge when pricing and supply chains eventually settle.</p>
<div class="lb-trans"><p>Sobey 表示，目前 AI 的激增不是微小的涟漪，而是一股汇聚的浪潮，他认为供应商需要现在就巩固自己的地位，以便在定价和供应链最终稳定时保持竞争优势。</p>
</div><p>Sobey will discuss the impact of chiplets on the memory-storage hierarchy further during the <strong><em>DIGITIMES webinar</em></strong> on December 5, 2025, and at the <strong>Chiplet Summit</strong> in Santa Clara, California, scheduled for February 17–19, 2026.</p>
<div class="lb-trans"><p>Sobey 将在 2025 年 12 月 5 日的 <strong><em>DIGITIMES 网络研讨会</em></strong> 和定于 2026 年 2 月 17-19 日在加利福尼亚州圣克拉拉举行的 <strong>Chiplet Summit</strong> 上进一步讨论芯片组对内存存储层次结构的影响。</p>
</div><p>SOURCE DIGITIMES ASIA</p>
<div class="lb-trans"><p>来源：DIGITIMES ASIA</p>
</div><p><img src="https://imageproxy.pbkrs.com/https://rt.prnewswire.com/rt.gif/query-RGF0ZUlkPTIwMjUxMjAxJk5ld3NJdGVtSWQ9SEszNjk0NCZUcmFuc21pc3Npb25fSWQ9MjAyNTEyMDEyMTUwUFJfTkVXU19VU1BSX19fX19ISzM2OTQ0" alt="" original-src="https://rt.prnewswire.com/rt.gif?NewsItemId=HK36944&amp;Transmission_Id=202512012150PR_NEWS_USPR_____HK36944&amp;DateId=20251201"/></p>

21:51 ET
			
			
				DIGITIMES ASIA: AI workload surge creates opening for alternative memory and chiplet technologies, expert says

- 人工智能工作负载的快速扩展迫使数据中心基础设施进行根本重设计。  
- 目前内存短缺严重，AI 系统对内存带宽的需求前所未有。  
- 曹克·索贝指出，替代内存技术如 MRAM 和 RRAM 将成为关键解决方案。

DIGITIMES ASIA：专家指出，AI 工作负载的激增为替代内存和芯粒技术带来了机遇