我是 LongbridgeAI，我可以總結文章信息。瑞薩電子推出了其第三代 DDR5 MRDIMM 芯片組，以解決人工智能和高性能計算數據中心中的內存瓶頸。該芯片組提供高達 16,000 MT/s 的速度，比第二代提高了 25% 的帶寬，利用現有的 DDR5 基礎設施實現無縫集成。該解決方案通過在不超頻 DRAM 的情況下增加帶寬，提升每瓦特的性能，支持向以推理為主的工作負載轉變，同時保持系統效率
//php echo do_shortcode('[responsivevoice_button voice="US English Male" buttontext="收聽帖子"]') ?>
人工智能數據中心、雲基礎設施和加速計算工作負載是瑞薩電子最新 DDR5 多路複用排雙列內存模塊（MRDIMM）芯片組發展的驅動因素。
瑞薩內存接口部門產品管理總監 Allen Youssefi 在一次簡報中告訴 EE Times：“隨着 AI 訓練、AI 推理、雲計算和高性能計算（HPC）工作負載的不斷擴展，處理器越來越受到內存中數據傳輸速率的限制。”
瑞薩的第三代 DDR5 MRDIMM 芯片組解決方案提供服務器級速度——高達每秒 16000 兆傳輸（MT/s），並且內存帶寬比該公司第二代芯片組高出 25%。Youssefi 表示，由於最新版本使用現有的 DDR5 基礎設施，服務器平台可以在不進行破壞性架構更改的情況下提取更多性能。
Youssefi 表示，這使得在不打破服務器 OEM 廠商已經依賴的平台模型的情況下擴展帶寬成為可能。他説：“MRDIMM 使用相同的 DDR5 生態系統，並保持相同的標準機械和電氣接口。部署在很大程度上變成了平台驗證的練習，而不是重大重新設計或硬件更換。”
Youssefi 表示，內存仍然是 AI 和 HPC 系統中的主要瓶頸，因為帶寬的改善並沒有跟上計算能力的增長。“內存在這裏變成了限制因素，而不是計算能力本身。”
隨着數據中心從以訓練為中心的 AI 週期轉向推理時代，內存瓶頸的影響加劇。Youssefi 表示：“這些應用程序伴隨着巨大的模型、巨大的參數和需要內存的數據。”
在推理過程中，延遲直接影響用户體驗，無論任務是解鎖設備、在打車應用中選擇司機，還是提供實時企業工作負載。他表示，快速提供這些服務需要基礎設施。“該基礎設施依賴於支持推理的 CPU、GPU、計算引擎、機器學習模型和深度學習模型。”
向更注重推理的 AI 過渡恰逢數據中心每瓦性能成為關鍵指標的時刻，Youssefi 表示這是瑞薩 MRDIMM 芯片組的另一個賣點。
Youssefi 表示，MRDIMM 通過提供更高的內存帶寬和更低的延遲來提高每瓦性能，而無需 DRAM 芯片以更高速度運行。由於 DRAM 不必超頻，系統可以在大致相同的內存功耗下完成更多有用的工作。
瑞薩的發佈強調了這一點，表示第三代產品在設計時考慮了系統級的能效，因為客户在更高帶寬與熱量和功耗限制之間進行平衡。對於半導體工程師來説，更高帶寬和受控功耗的組合可能是關鍵設計點，尤其是在內存通常是限制子系統的 AI 服務器中。
瑞薩的第三代 DDR5 MRDIMM 芯片組是一個平台，而不是一對單一芯片。Youssefi 表示，該公司的產品組合獨特地定位於通過 MRCD、MDB、PMIC、SPD 集線器和温度傳感器來完成內存接口堆棧。
瑞薩並不是唯一一家通過 DIMM 技術解決內存瓶頸的公司。Rambus 最近宣佈其基於新 Rambus 第六代註冊時鐘驅動器（RCD06）構建的 DDR5 9600 服務器 RDIMM 芯片組。該芯片組聲稱比上一代提供 20% 的帶寬提升，使 RDIMM 的運行速度高達 9600 MT/s。
與瑞薩一樣，Rambus 也在尋求提高帶寬和容量，以支持自主 AI、高性能計算和其他數據密集型工作負載。
Youssefi 表示，如果 AI 和 HPC 需求如預期繼續上升，這種漸進但架構性的帶寬提升可能比全面的平台重新設計更有價值。“內存帶寬已成為 AI、HPC 和雲計算環境中最重要的限制因素之一。”
相關閲讀：
動態 AI 需求推動內存多樣性
加拿大的 AI 生態系統需要更多緊迫感
國防部向加拿大半導體行業發出明確信號
人工智能與大數據、高性能計算（HPC）、內存、MRDIMM
瑞薩電子