//php echo do_shortcode('[responsivevoice_button voice=&#34;US English Male&#34; buttontext=&#34;收聽帖子&#34;]') ?
隨着人工智能模型成為全球競爭力的關鍵驅動力，訓練和推理所使用的人工智能硬件越來越被視為戰略資產而非商品，開發自主的人工智能平台的重要性日益增加，以減少對外國供應商的依賴。與美國和中國不同，歐洲在芯片設計和系統方面仍然是一個相對較小的參與者，缺乏本土的人工智能硬件生態系統。隨着 SiPearl 和 Semidynamics 本月宣佈合作開發歐洲首個自主機架規模人工智能平台，這一差距可能會開始縮小。
<h3>SiPearl-Semidynamics 人工智能平台：硬件</h3>
SiPearl 和 Semidynamics 共同開發的自主人工智能平台是一個多代、多年的努力，旨在基於兩家公司技術開發一個具有競爭力的歐洲機架規模人工智能平台。
該平台將依賴於 SiPearl 的基於 Arm Neoverse V2 的 Rhea2 及其後續代處理器來處理通用和編排任務，同時使用 Semidynamics 的基於 RISC-V 的人工智能推理加速器（該公司將其描述為 GPU/AI 推理 ASIC）作為主要計算引擎。
SiPearl 首席執行官 Philippe Notton 告訴 EE Times，Rhea2 仍在設計中，開發預計將比 Rhea1 顯著加快，因為公司現在擁有成熟的工程團隊、建立的設計流程以及開發複雜高性能計算處理器的經驗。然而，與 Rhea1 不同，Rhea2 將缺乏複雜的內存子系統，無法為帶寬需求高的高性能計算應用（例如流體動力學計算）提供板載 HBM 和另一個用於容量重負載的 DDR5 內存池。Rhea2 將僅依賴於 DDR 類型的內存，這將簡化與人工智能加速器的內存一致性。
這些加速器將使用 Semidynamics 現有的知識產權進行改進，基於該公司當前的 Cervell NPU 架構，配備片上內存。
“[這些加速器] 基於我們之前的知識產權開發，進行了改進，” Semidynamics 的首席營銷官 David Harold 告訴 EE Times。“它更接近於可編程的人工智能推理加速器，而不是傳統的圖形 GPU。我們在數據中心人工智能的意義上使用 GPU[術語]：一種在機架中執行重型人工智能計算的設備。該架構結合了 RISC-V CPU 控制、向量和張量能力，以及差異化的內存子系統。目標是支持大規模推理工作負載，包括大型模型和長上下文，而不將客户鎖定在狹窄的固定功能加速器中。”
雖然第一代平台將結合 SiPearl 的 Rhea2 CPU 和 Semidynamics 的 RISC-V 加速器，但後續代預計將在芯片級別進行進一步集成，呼應數據中心級異構多芯片設計，例如 AMD 的 Instinct MI300A。然而，考慮到 Semidynamics 的架構與 AMD 的方法之間的架構差異，最終結果將完全不同。
“第二次迭代旨在朝着更緊密的芯片級集成邁進，但我們不會將其描述為等同於 AMD 的 MI300A 等特定現有架構，” Harold 説。“Semidynamics 採用基於芯片的方式，而不是巨大的單片芯片，芯片間連接使用 UCIe。與 SiPearl 的硅材料實現更緊密的集成是可能的，並且正在考慮中。更廣泛的內存模型和封裝級細節將在稍後披露。”
Notton 繼續説道：“我們在歐洲面臨的一個挑戰是，我們希望成為一個重要的參與者，確保我們的芯片能夠與 [其他] 芯片協同工作，這些芯片將是來自 Semidynamics 或其他公司的加速器芯片。使用 Rhea2 時，您有一個 UCI 接口，因此它可以與各種加速器一起工作。”
具有片上內存的加速器架構面臨的挑戰之一是使內存能夠與 CPU 協同工作。這種設計經過優化，以保持數據本地化，以最大化帶寬效率並最小化延遲，而一致性則需要不斷的同步、緩存跟蹤和跨 CPU 與加速器的遠程可見性。因此，一致性可以簡化編程，但也會侵蝕這種架構的一些優勢，因為一致性流量增加了功耗、延遲、面積開銷和驗證複雜性。從我們與 Notton 的對話中，一個關鍵點是第一代平台預計將支持完整的 CPU-加速器內存一致性。Notton 明確確認了這一點，並表示同樣的方向也適用於後續代。
“這是我們將在不久的將來與 SiPearl 合作的一部分工作，” Harold 説。
説實話，即使是 AMD 和 Nvidia 的先進異構系統通常也使用混合一致性模型，其中只有某些內存區域保持一致，而許多本地加速器內存則保持在非一致域內。在這一點上，很難判斷 SiPearl 和 Semidynamics 計劃如何實現一致性。
目前，Semidynamics 尚未披露其即將推出的人工智能加速器支持的 RISC-V 指令和數據格式，儘管該公司表示處理器將使用行業標準工具（如 Linux、GCC 和 LLVM）進行編程，而不是依賴於封閉的專有軟件生態系統。
“我們尚未披露完整的指令和數據格式支持，” Harold 説。“在架構層面，使用 RISC-V 的目的是保持開放性和可編程性。該系統旨在與標準軟件基礎設施（如 Linux、GCC 和 LLVM）協同工作，而不是要求客户採用封閉的專有編程環境。我們將在產品推出時更詳細地披露特定指令和數據格式。”
該設計將遵循開放計算項目（OCP）規範，以確保與已建立的雲和數據中心生態系統以及現有硬件的兼容性。這種方法旨在加快上市時間，並利用廣泛部署的組件（從固態硬盤到服務器機架，從主板組件到電源）的規模經濟。
“我們的目標是通過與數據中心基礎設施實踐和熟悉的軟件環境對齊來減少部署摩擦，” 哈羅德説。“我們正在為運營商和集成商設計機架規模的部署平台，而不是作為一個獨立的芯片，要求客户圍繞它構建一切。隨着系統設計的披露，我們將提供更多關於具體 OCP 兼容元素的細節。”
<h3>機架規模方法</h3>
與更廣泛的行業趨勢一致，SiPearl 和 Semidynamics 正在開發機架規模的平台，而不僅僅是一個 CPU 和一個旨在協同工作的加速器。具體而言，這兩家公司預計該平台將提供 “卓越的每瓦性能”，並且 “密度與領先的 AI 平台相當”。這兩項聲明故意模糊，避免具體數字，儘管關於構建高效且具有競爭力的機架規模平台的總體信息是明確的。“我們針對的是數據中心機架規模的 AI 推理，而不是邊緣或僅低功耗的 PCIe 產品，” 哈羅德説。“路線圖包括為開發者和早期系統工作提供的 PCIe 卡，並擴展到液冷數據中心機架解決方案。”
對液冷機架的提及顯然指向類似於 Nvidia 和 AMD 開發的平台，其中整個機架裝配了數十個以擴展配置連接的加速器，像一個單一的加速器一樣工作。因此，當 Semidynamics 和 SiPearl 提到來自領先全球 AI 平台的預期密度時，他們幾乎肯定是指每個機架非常高的加速器數量。然而，關於相似密度的聲明並不一定轉化為相似的性能密度。
“我們尚未披露每個機架的加速器數量，因此直接將設計映射到 72 或 144 個加速器配置上還為時尚早，” 哈羅德説。
機架規模互連技術，如 Nvidia 的 NVLink 及其拓撲結構，是解鎖 AI 加速器可擴展性的關鍵。雖然 Semidynamics 加速器的互連結構無疑是這兩家公司正在研究的內容，但目前他們還沒有準備好討論關於該技術的細節。
“我們尚未披露完整的機架級互連結構，” 哈羅德説。“Semidynamics 開發了一種用於在機架內連接加速器的擴展方法，芯片級連接使用 UCIe。隨着平台逐漸接近市場，我們將提供更多關於 CPU-加速器互連和機架級互連結構的細節。”
無論如何，下一代 SiPearl CPU 和 SiPearl 與 Semidynamics 共同開發的多芯片組 AI 解決方案都將使用 UCIe 互連。
“對於下一代 [CPU]，我們正在轉向芯片組，” 諾頓説。“事實上，這正是像英特爾、AMD 和 Nvidia 這樣的巨頭正在做的。我們沒有選擇，因為開發大型芯片變得相當 [困難]。所以我們必須將設計進行分割。[…] 一旦我們有了芯片組，就可以進行組合。”
諾頓還強調了行業中最大未解決的問題之一：確保來自不同供應商的芯片組之間的可靠互操作性。他指出，來自英特爾、AMD 和三星電子等公司的當前芯片組生態系統仍然在很大程度上是垂直整合的，這突顯了 SiPearl 與 Semidynamics 之間密切合作的重要性，以確保他們的多芯片組 AI 平台可靠運行。
諾頓還明確確認，該平台將需要一種概念上類似於 NVLink 的擴展互連結構，儘管他拒絕透露實施細節。當被直接問及機架規模互連結構時，他承認將系統連接在一起的重要性，但表示該主題仍處於早期階段。
“你仍然需要將所有這些東西連接在一起，” 諾頓説。“要將所有東西連接在一起，你需要像 NVLink 這樣的擴展互連結構，[但] 我們尚未發表評論。[…] 這仍然是一個相當早期和敏感的階段。”
<h3>軟件</h3>
為 AI 工作負載量身定製的軟件生態系統是 Nvidia 仍然是 AI 硬件領先供應商的主要原因之一。為了不僅與 Nvidia 競爭，還與其他眾多供應商競爭，SiPearl 和 Semidynamics 需要確保他們的軟件堆棧既可訪問又靈活。好消息是，基於 Arm 的 AI 系統 CPU 和基於 RISC-V 的 AI 加速器已經上市，並且已經得到了廣泛的軟件生態系統的支持。
“該平台旨在與現有的 AI 數據中心軟件環境集成，而不是要求客户採用封閉的專有堆棧，” 哈羅德説。
“Semidynamics 預計機架在發貨時將支持 vLLM、SGL、ONNX 和 PyTorch，” 他補充道。“在較低層面，該公司強調 Linux、GCC 和 LLVM 的支持，利用 RISC-V 的開放性使平台可編程並可訪問廣泛的軟件生態系統。當然，在較低層面將有 Semidynamics 軟件，在那裏 PyTorch 操作被調度到加速器，但意圖是發佈並開放該層，而不是將其視為封閉的 CUDA 島。”
<h3>定位</h3>
SiPearl 和 Semidynamics 正在為公共和私有 AI 數據中心部署定位他們即將推出的平台。具體來説，他們提到企業級推理以及用於運行性能需求高的大型語言模型（LLMs）和檢索增強生成（RAG）工作負載的大規模 AI 集羣。“第一代平台專注於大規模推理，” Harold 説。“這包括 LLM 服務、大型模型、長上下文工作負載，以及需要更大上下文窗口和數據集的新興工作負載。我們看到推理正在從簡單的單提示 LLM 服務向更具挑戰性的推理和多模態用例發展，包括視頻和長上下文處理。我們在這個階段並沒有提出關於自主 AI 的單獨產品聲明，但我們注意到自主 AI 對 AI 代理的內存容量施加了額外壓力，而架構旨在支持推理和自主工作負載的發展方向。”
談到自主 AI 工作負載時，SiPearl 的首席執行官還建議，行業正在從傳統的 1:8 CPU 與 GPU 比率轉向更接近 1:2 的比例，適用於許多推理部署。他還指出，自主 AI 可能會推動對 CPU 密集型甚至純 CPU 機架的需求，這正是英特爾和英偉達的高管們所設想的。
“我們看到的是 [CPU 與 GPU 的比率正在變化]，” Notton 説。“過去是 1:8，[…] 1:2 是一個不錯的目標。[…] 對於自主 AI，[我們] 甚至收到了僅需 CPU 的請求，純 CPU 機架。”
為了應對 CPU 密集型工作負載，Notton 説，機架級解決方案將支持僅 CPU 機架的選項。同時，他強調這兩家公司正在為尚未披露的合作伙伴開發參考設計，以便讓他們的合作伙伴（目前尚未披露）進行生產，而不是像英偉達那樣自己銷售完整的機架。儘管如此，Notton 承認現代 CPU 供應商越來越需要參與機架級設計，以確保競爭力的上市時間和適當的系統集成。
“關鍵是確保我們有一個模塊化的機架，” Notton 對 EE Times 説。“因此，根據需求，我們可以更改配置。[…] 很明顯，我們需要 ODM 來幫助我們構建這些平台，因為我們沒有意圖自己運輸和設計機架。”
由於這兩家公司正在開發一個主要針對推理的 AI 平台，他們的總體關注點是最大效率、可編程性和低總擁有成本，而不是最終性能。
“我們並不是僅僅想在峯值計算數字上獲勝，” Harold 説。“我們正在為真實數據中心部署中的高效令牌生成進行設計。這意味着內存效率、可編程性、系統集成和成本結構與原始吞吐量同樣重要。這也是我們在當前設計中不強制使用 HBM 的原因。HBM 會帶來供應和成本挑戰，我們認為推理系統在根本上不同的成本結構是有價值的。”
這兩家公司提到的 OCP 兼容性表明，從傳統企業部署到超大規模電力基礎設施的可擴展性，儘管後者並未具體提及。此外，這兩家公司還參與了歐洲處理器倡議（EPI）、EuroHPC 和一些其他政府主導的倡議，因此可以預期他們將首先解決政府支持的基礎設施，然後再轉向企業，最後接觸超大規模企業。不過，實際的商業計劃仍有待觀察。
該平台還瞄準了各種歐洲倡議，如 AI 工廠和 Giga 工廠計劃，這些計劃支持本土架構和本地供應鏈。不過，這兩家公司承認，推動該平台的芯片不會在歐洲製造。
“我們的目標是為歐洲的 AI 基礎設施提供一個可信的歐洲主導的大規模推理替代方案，” Harold 解釋道。“這並不意味着半導體供應鏈的每個環節都物理位於歐洲。先進的半導體制造仍然是全球性的。但 Semidynamics 在關鍵架構、系統設計、軟件方向和商業部署方面帶來了對歐洲的控制，這些都是 AI 基礎設施主權的關鍵部分。”
關於主權，Notton 對歐洲半導體的侷限性發表了異常坦誠的看法。他表示，出於安全原因，設計基礎設施、計算農場甚至仿真系統都保留在歐洲，而先進的製造和封裝目前仍依賴於台灣。
“我們所做的是在歐洲進行設計，” Notton 説。“管理設計的計算農場在歐洲，並且是歐洲的。實際上，這是我們自己的計算農場。我們的仿真能力在歐洲，並且我們擁有它。[…] 所有工作都是在 [美國] 雲中完成的，出於安全原因。今天，對於第一代和第二代，代工封裝在亞洲。它在台灣。沒有選擇。”
他還指出，先進封裝可能是恢復歐洲部分半導體制造能力的第一步，提到新加坡的 Silicon Box 及其在 2024 年的意大利擴張。
“先進封裝可能是第一個到達歐洲的，” Notton 説。“一個好的例子是意大利的 Silicon Box。這家來自新加坡的公司在意大利設立了一個基地。這可能是將部分晶圓廠帶到歐洲的第一步。”
<h3>可用性</h3>
關於可用性，目前沒有明確的發佈時間表。在推出 Rhea2 CPU 之前，SiPearl 必須首先將 Rhea1 處理器推向市場；目前正在進行採樣。因此，第一代 SiPearl-Semidynamics AI 平台可能仍需幾年時間。
至於 Semidynamics，該公司已經完成了一個用於架構驗證和客户評估的 3 納米測試芯片，計劃在今年晚些時候進行生產設計流片。
“我們已經成功完成了 3 納米測試芯片，這為架構驗證和客户分析提供了平台，” 哈羅德説。“生產流片計劃在今年晚些時候進行，隨後進行系統啓動。下一個主要里程碑是生產流片、硅片啓動、系統集成，然後是客户部署。一旦這些里程碑進一步推進，我們會更具體地説明可用性。”
菲利普·諾頓確認，聯合開發的 SiPearl-Semidynamics AI 平台計劃在 ‘本十年’ 內推出，而不是下一個十年。Rhea2 的最終版本計劃在 2027 年流片，屆時硬件和軟件開發人員將開始系統集成。他還強調，SiPearl 打算顯著縮短與 Rhea1 相比的開發週期，並最終與主要美國公司的執行節奏相匹配。
“必須在本十年內，這就是我們需要迅速行動的原因，” 諾頓説。“Rhea2 將在 2027 年流片，假設是高級版本，但在此之前還有其他事情發生。[…] 第一代花了很長時間，因為我們必須建立公司，必須找到資金。從第二代到第三代，我們絕對需要縮短設計週期。[它] 不可能花五年時間設計一個處理器。[…] 我們需要更快。現在團隊已經成熟，我們知道該怎麼做。”
<hr/>
<h5>另請閲讀：</h5>
<hr/>
AI 加速器，AI 推理，AI 模型，ARM，數據中心，處理器，RISC-V，半導體，主權 AI
ARM，RISC-V 國際，Semidynamics，SiPearl S.A.

標普半導體 ETF - SPDR

ARMW

2 倍做多 ARM ETF - Leverage Shares

費城交易所 半導體 ETF - iShares

2 倍做多 ARM ETF - T-Rex

半導體 3 倍做多 - Direxion

動態半導體 ETF - Invesco

半導體 ETF - VanEck Vectors

SiPearl 和 Semidynamics 宣佈建立合作關係，開發一個歐洲主權 AI 平台，利用 SiPearl 的基於 Arm Neoverse V2 的 Rhea2 處理器和 Semidynamics 的基於 RISC-V 的 AI 推理加速器。這個為期多年的項目旨在創建一個具有競爭力的機架規模 AI 平台，以滿足歐洲對本土 AI 硬件堆棧的需求。第一代將專注於 CPU-加速器內存一致性，未來的版本預計將增強芯片級集成

When Arm Meets RISC-V: SiPearl, Semidynamics to Co-Develop Sovereign AI Platform

- SiPearl 與 Semidynamics 合作開發歐洲首個主權 AI 平台。  
- 新平台將基於 SiPearl 的 Rhea2 和 Semidynamics 的 RISC-V 加速器。  
- 預計在 2027 年推出，旨在減少對外部供應商的依賴。

EE Times

Roundhill ARM WeeklyPay ETF

英偉達

NVIDIA Corporation

當 Arm 與 RISC-V 相遇：SiPearl 和 Semidynamics 將合作開發主權 AI 平台