<p>, /PRNewswire/ -- 人工智能（AI）工作負載的快速擴展迫使數據中心基礎設施進行根本性重新設計，導致歷史性的內存短缺，併為替代內存技術打開了一個難得的市場窗口，ChannelScience 創始人兼 Chiplet Summit 主席 Chuck Sobey 表示。</p>
<p>繼續閲讀</p>
<p><img src="https://imageproxy.pbkrs.com/https://www.prnewswire.com/news-releases/null?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" alt="" original-src="https://imageproxy.pbkrs.com/https://www.prnewswire.com/news-releases/null"/></p>
<p>來源：Digitimes</p>
<p>在談到行業轉變時，Sobey 強調 AI 工作負載在結構上與傳統企業任務不同。雖然傳統工作負載對 CPU、網絡和存儲施加壓力——常常使處理器等待 I/O——但現代 AI 任務，如深度學習訓練、大型語言模型（LLM）推理和檢索增強生成（RAG），在內存帶寬上受到嚴重限制。</p>
<p><strong>帶寬差距和電力危機</strong></p>
<p>AI 時代的需求是前所未有的。Sobey 指出，AI 系統可能需要高達每秒 10 太字節（TB/s）的 GPU 內存訪問——大約是標準 DDR5 帶寬的 50 到 200 倍。與處理千字節的網絡和雲請求不同，AI 訪問涉及的是以千兆字節為單位的張量，要求算法能夠利用整個內存存儲層次結構。</p>
<p>這種架構壓力帶來了深遠的經濟後果。Sobey 將現代 AI 數據中心描述為一個 “令牌工廠”，其收入完全來自處理令牌。目前，這些設施的限制在於電力和內存，而不是計算能力。電力密度要求正在飆升，迫使機架重新設計以支持高達一兆瓦——超出以前標準的 10 到 100 倍。</p>
<p>供應鏈已經在這種壓力下崩潰。Sobey 指出，內存行業出現了歷史性的短缺，特別是高性能服務器內存，訂單的履行率僅為 70%，價格上漲高達 50%。對於除最大規模的超大規模數據中心外，確保必要的內存庫存變得越來越困難。</p>
<p><strong>芯片組：MRAM 和 RRAM 的入口</strong></p>
<p>Sobey 將這種供應/電力危機視為 “替代內存” 的戰略切入點——如 MRAM（磁阻 RAM）、RRAM（電阻 RAM）和相變內存（PCM）等技術，它們缺乏現有廠商的專用數十億美元的晶圓廠。</p>
<p>芯片組架構是這一轉型的關鍵推動力。通過將功能從單一的 ASIC 解耦為更小的單元，芯片組允許設計師整合替代內存所需的特殊材料，而不污染高端邏輯製造過程。這種異構集成帶來了特定的性能優勢，如輻射耐受性或高温抗性，Sobey 認為這些是超越簡單成本主張的必要差異化因素。</p>
<p><strong>新的 “五秒規則”</strong></p>
<p>AI 的速度也在壓縮經濟經驗法則。Sobey 觀察到，長期以來的 “五分鐘規則”——即如果在五分鐘內訪問的數據應保留在 DRAM 中——已加速為 “五秒規則”。在 AI 時代，如果數據在五秒內未被訪問，成本效益分析表明它必須從昂貴的快速內存層中剔除。</p>
<p>Sobey 表示，目前 AI 的激增不是微小的漣漪，而是一股匯聚的浪潮，他認為供應商需要現在就鞏固自己的地位，以便在定價和供應鏈最終穩定時保持競爭優勢。</p>
<p>Sobey 將在 2025 年 12 月 5 日的 <strong><em>DIGITIMES 網絡研討會</em></strong> 和定於 2026 年 2 月 17-19 日在加利福尼亞州聖克拉拉舉行的 <strong>Chiplet Summit</strong> 上進一步討論芯片組對內存存儲層次結構的影響。</p>
<p>來源：DIGITIMES ASIA</p>
<p><img src="https://imageproxy.pbkrs.com/https://rt.prnewswire.com/rt.gif/query-RGF0ZUlkPTIwMjUxMjAxJk5ld3NJdGVtSWQ9SEszNjk0NCZUcmFuc21pc3Npb25fSWQ9MjAyNTEyMDEyMTUwUFJfTkVXU19VU1BSX19fX19ISzM2OTQ0?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" alt="" original-src="https://imageproxy.pbkrs.com/https://rt.prnewswire.com/rt.gif/query-RGF0ZUlkPTIwMjUxMjAxJk5ld3NJdGVtSWQ9SEszNjk0NCZUcmFuc21pc3Npb25fSWQ9MjAyNTEyMDEyMTUwUFJfTkVXU19VU1BSX19fX19ISzM2OTQ0"/></p>

Everspin科技

<p>AI 工作負載的快速擴展正在推動數據中心基礎設施的根本重設計，導致內存短缺，併為 MRAM 和 RRAM 等替代內存技術創造了機會。Chuck Sobey 強調了 AI 系統對內存帶寬和功率密度的前所未有的需求，這導致了經濟後果和供應鏈壓力。芯片組架構被確定為整合替代內存的關鍵推動力。Sobey 將在即將舉行的活動中進一步討論這些影響</p>

<p>, /PRNewswire/ -- The rapid expansion of artificial intelligence (AI) workloads is forcing a fundamental redesign of data center infrastructure, driving historic memory shortages and opening a rare market window for alternative memory technologies, according to Chuck Sobey, founder of ChannelScience and general chair of the Chiplet Summit.</p>
<div class="lb-trans"><p>, /PRNewswire/ -- 人工智能（AI）工作負載的快速擴展迫使數據中心基礎設施進行根本性重新設計，導致歷史性的內存短缺，併為替代內存技術打開了一個難得的市場窗口，ChannelScience 創始人兼 Chiplet Summit 主席 Chuck Sobey 表示。</p>
</div><p>Continue Reading</p>
<div class="lb-trans"><p>繼續閲讀</p>
</div><p><img src="https://imageproxy.pbkrs.com/https://www.prnewswire.com/news-releases/null" alt="" original-src="https://www.prnewswire.com/news-releases/null"/></p>
<p>Credit: Digitimes</p>
<div class="lb-trans"><p>來源：Digitimes</p>
</div><p>Speaking on the industry's shift, Sobey highlighted that AI workloads differ structurally from traditional enterprise tasks. While legacy workloads stress the CPU, network, and storage—often leaving processors waiting for I/O—modern AI tasks, such as deep learning training, large language model (LLM) inference, and retrieval-augmented generation (RAG), are critically bound by memory bandwidth.</p>
<div class="lb-trans"><p>在談到行業轉變時，Sobey 強調 AI 工作負載在結構上與傳統企業任務不同。雖然傳統工作負載對 CPU、網絡和存儲施加壓力——常常使處理器等待 I/O——但現代 AI 任務，如深度學習訓練、大型語言模型（LLM）推理和檢索增強生成（RAG），在內存帶寬上受到嚴重限制。</p>
</div><p><strong>The bandwidth gap and power crisis</strong></p>
<div class="lb-trans"><p><strong>帶寬差距和電力危機</strong></p>
</div><p>The demands of the AI era are unprecedented. Sobey noted that AI systems can require up to 10 terabytes per second (TB/s) of GPU memory access—roughly 50 to 200 times the bandwidth of standard DDR5. Unlike web and cloud requests that deal in kilobytes, AI accesses involve gigabyte-sized tensors, necessitating algorithms that exercise the entire memory storage hierarchy.</p>
<div class="lb-trans"><p>AI 時代的需求是前所未有的。Sobey 指出，AI 系統可能需要高達每秒 10 太字節（TB/s）的 GPU 內存訪問——大約是標準 DDR5 帶寬的 50 到 200 倍。與處理千字節的網絡和雲請求不同，AI 訪問涉及的是以千兆字節為單位的張量，要求算法能夠利用整個內存存儲層次結構。</p>
</div><p>This architectural strain has profound economic consequences. Sobey described the modern AI data center as a &#34;token factory,&#34; where revenue is derived strictly from processing tokens. Currently, these facilities are power-limited and memory-limited rather than compute-limited. Power density requirements are skyrocketing, forcing rack redesigns to support up to one megawatt—exceeding previous standards by 10 to 100 times.</p>
<div class="lb-trans"><p>這種架構壓力帶來了深遠的經濟後果。Sobey 將現代 AI 數據中心描述為一個 “令牌工廠”，其收入完全來自處理令牌。目前，這些設施的限制在於電力和內存，而不是計算能力。電力密度要求正在飆升，迫使機架重新設計以支持高達一兆瓦——超出以前標準的 10 到 100 倍。</p>
</div><p>Supply chains are already buckling under this pressure. Sobey pointed to a historic shortage in the memory sector, specifically for high-performance server memory, with reports of a 70% fulfillment rate for orders and price surges of up to 50%. Securing necessary memory inventory is becoming increasingly difficult for all but the largest hyperscalers.</p>
<div class="lb-trans"><p>供應鏈已經在這種壓力下崩潰。Sobey 指出，內存行業出現了歷史性的短缺，特別是高性能服務器內存，訂單的履行率僅為 70%，價格上漲高達 50%。對於除最大規模的超大規模數據中心外，確保必要的內存庫存變得越來越困難。</p>
</div><p><strong>Chiplets: the gateway for MRAM and RRAM</strong></p>
<div class="lb-trans"><p><strong>芯片組：MRAM 和 RRAM 的入口</strong></p>
</div><p>Sobey identified this supply/power crunch as a strategic entry point for &#34;alternative memories&#34;—technologies like MRAM (magnetoresistive RAM), RRAM (resistive RAM), and phase change memory (PCM) that lack the dedicated, multi-billion-dollar fabs of incumbents.</p>
<div class="lb-trans"><p>Sobey 將這種供應/電力危機視為 “替代內存” 的戰略切入點——如 MRAM（磁阻 RAM）、RRAM（電阻 RAM）和相變內存（PCM）等技術，它們缺乏現有廠商的專用數十億美元的晶圓廠。</p>
</div><p>The chiplet architecture is the critical enabler for this transition. By disaggregating functions from monolithic ASICs into smaller units, chiplets allow designers to integrate esoteric materials required for alternative memory without contaminating high-end logic fabrication processes. This heterogeneous integration allows for specific performance advantages, such as radiation tolerance or high-temperature resilience, which Sobey argues are necessary differentiators beyond simple cost claims.</p>
<div class="lb-trans"><p>芯片組架構是這一轉型的關鍵推動力。通過將功能從單一的 ASIC 解耦為更小的單元，芯片組允許設計師整合替代內存所需的特殊材料，而不污染高端邏輯製造過程。這種異構集成帶來了特定的性能優勢，如輻射耐受性或高温抗性，Sobey 認為這些是超越簡單成本主張的必要差異化因素。</p>
</div><p><strong>The new &#34;five-second rule&#34;</strong></p>
<div class="lb-trans"><p><strong>新的 “五秒規則”</strong></p>
</div><p>The velocity of AI is also compressing economic rules of thumb. Sobey observed that the long-standing &#34;five-minute rule&#34;—which dictates data should be kept in DRAM if accessed within five minutes—has accelerated to a &#34;five-second rule.&#34; In the AI era, if data is not accessed within five seconds, the cost-benefit analysis dictates it must be ejected from expensive, fast memory tiers.</p>
<div class="lb-trans"><p>AI 的速度也在壓縮經濟經驗法則。Sobey 觀察到，長期以來的 “五分鐘規則”——即如果在五分鐘內訪問的數據應保留在 DRAM 中——已加速為 “五秒規則”。在 AI 時代，如果數據在五秒內未被訪問，成本效益分析表明它必須從昂貴的快速內存層中剔除。</p>
</div><p>Sobey said the current surge in AI is no mere ripple but a gathering wave, arguing that suppliers need to secure their positions now if they hope to retain an edge when pricing and supply chains eventually settle.</p>
<div class="lb-trans"><p>Sobey 表示，目前 AI 的激增不是微小的漣漪，而是一股匯聚的浪潮，他認為供應商需要現在就鞏固自己的地位，以便在定價和供應鏈最終穩定時保持競爭優勢。</p>
</div><p>Sobey will discuss the impact of chiplets on the memory-storage hierarchy further during the <strong><em>DIGITIMES webinar</em></strong> on December 5, 2025, and at the <strong>Chiplet Summit</strong> in Santa Clara, California, scheduled for February 17–19, 2026.</p>
<div class="lb-trans"><p>Sobey 將在 2025 年 12 月 5 日的 <strong><em>DIGITIMES 網絡研討會</em></strong> 和定於 2026 年 2 月 17-19 日在加利福尼亞州聖克拉拉舉行的 <strong>Chiplet Summit</strong> 上進一步討論芯片組對內存存儲層次結構的影響。</p>
</div><p>SOURCE DIGITIMES ASIA</p>
<div class="lb-trans"><p>來源：DIGITIMES ASIA</p>
</div><p><img src="https://imageproxy.pbkrs.com/https://rt.prnewswire.com/rt.gif/query-RGF0ZUlkPTIwMjUxMjAxJk5ld3NJdGVtSWQ9SEszNjk0NCZUcmFuc21pc3Npb25fSWQ9MjAyNTEyMDEyMTUwUFJfTkVXU19VU1BSX19fX19ISzM2OTQ0" alt="" original-src="https://rt.prnewswire.com/rt.gif?NewsItemId=HK36944&amp;Transmission_Id=202512012150PR_NEWS_USPR_____HK36944&amp;DateId=20251201"/></p>

21:51 ET
			
			
				DIGITIMES ASIA: AI workload surge creates opening for alternative memory and chiplet technologies, expert says

- 人工智能工作負載的快速擴展迫使數據中心基礎設施進行根本重設計。  
- 目前內存短缺嚴重，AI 系統對內存帶寬的需求前所未有。  
- 曹克·索貝指出，替代內存技術如 MRAM 和 RRAM 將成為關鍵解決方案。

DIGITIMES ASIA：專家指出，AI 工作負載的激增為替代內存和芯粒技術帶來了機遇