//php echo do_shortcode('[responsivevoice_button voice=&#34;US English Male&#34; buttontext=&#34;收听帖子&#34;]') ?
随着人工智能模型成为全球竞争力的关键驱动力，训练和推理所使用的人工智能硬件越来越被视为战略资产而非商品，开发自主的人工智能平台的重要性日益增加，以减少对外国供应商的依赖。与美国和中国不同，欧洲在芯片设计和系统方面仍然是一个相对较小的参与者，缺乏本土的人工智能硬件生态系统。随着 SiPearl 和 Semidynamics 本月宣布合作开发欧洲首个自主机架规模人工智能平台，这一差距可能会开始缩小。
<h3>SiPearl-Semidynamics 人工智能平台：硬件</h3>
SiPearl 和 Semidynamics 共同开发的自主人工智能平台是一个多代、多年的努力，旨在基于两家公司技术开发一个具有竞争力的欧洲机架规模人工智能平台。
该平台将依赖于 SiPearl 的基于 Arm Neoverse V2 的 Rhea2 及其后续代处理器来处理通用和编排任务，同时使用 Semidynamics 的基于 RISC-V 的人工智能推理加速器（该公司将其描述为 GPU/AI 推理 ASIC）作为主要计算引擎。
SiPearl 首席执行官 Philippe Notton 告诉 EE Times，Rhea2 仍在设计中，开发预计将比 Rhea1 显著加快，因为公司现在拥有成熟的工程团队、建立的设计流程以及开发复杂高性能计算处理器的经验。然而，与 Rhea1 不同，Rhea2 将缺乏复杂的内存子系统，无法为带宽需求高的高性能计算应用（例如流体动力学计算）提供板载 HBM 和另一个用于容量重负载的 DDR5 内存池。Rhea2 将仅依赖于 DDR 类型的内存，这将简化与人工智能加速器的内存一致性。
这些加速器将使用 Semidynamics 现有的知识产权进行改进，基于该公司当前的 Cervell NPU 架构，配备片上内存。
“[这些加速器] 基于我们之前的知识产权开发，进行了改进，” Semidynamics 的首席营销官 David Harold 告诉 EE Times。“它更接近于可编程的人工智能推理加速器，而不是传统的图形 GPU。我们在数据中心人工智能的意义上使用 GPU[术语]：一种在机架中执行重型人工智能计算的设备。该架构结合了 RISC-V CPU 控制、向量和张量能力，以及差异化的内存子系统。目标是支持大规模推理工作负载，包括大型模型和长上下文，而不将客户锁定在狭窄的固定功能加速器中。”
虽然第一代平台将结合 SiPearl 的 Rhea2 CPU 和 Semidynamics 的 RISC-V 加速器，但后续代预计将在芯片级别进行进一步集成，呼应数据中心级异构多芯片设计，例如 AMD 的 Instinct MI300A。然而，考虑到 Semidynamics 的架构与 AMD 的方法之间的架构差异，最终结果将完全不同。
“第二次迭代旨在朝着更紧密的芯片级集成迈进，但我们不会将其描述为等同于 AMD 的 MI300A 等特定现有架构，” Harold 说。“Semidynamics 采用基于芯片的方式，而不是巨大的单片芯片，芯片间连接使用 UCIe。与 SiPearl 的硅材料实现更紧密的集成是可能的，并且正在考虑中。更广泛的内存模型和封装级细节将在稍后披露。”
Notton 继续说道：“我们在欧洲面临的一个挑战是，我们希望成为一个重要的参与者，确保我们的芯片能够与 [其他] 芯片协同工作，这些芯片将是来自 Semidynamics 或其他公司的加速器芯片。使用 Rhea2 时，您有一个 UCI 接口，因此它可以与各种加速器一起工作。”
具有片上内存的加速器架构面临的挑战之一是使内存能够与 CPU 协同工作。这种设计经过优化，以保持数据本地化，以最大化带宽效率并最小化延迟，而一致性则需要不断的同步、缓存跟踪和跨 CPU 与加速器的远程可见性。因此，一致性可以简化编程，但也会侵蚀这种架构的一些优势，因为一致性流量增加了功耗、延迟、面积开销和验证复杂性。从我们与 Notton 的对话中，一个关键点是第一代平台预计将支持完整的 CPU-加速器内存一致性。Notton 明确确认了这一点，并表示同样的方向也适用于后续代。
“这是我们将在不久的将来与 SiPearl 合作的一部分工作，” Harold 说。
说实话，即使是 AMD 和 Nvidia 的先进异构系统通常也使用混合一致性模型，其中只有某些内存区域保持一致，而许多本地加速器内存则保持在非一致域内。在这一点上，很难判断 SiPearl 和 Semidynamics 计划如何实现一致性。
目前，Semidynamics 尚未披露其即将推出的人工智能加速器支持的 RISC-V 指令和数据格式，尽管该公司表示处理器将使用行业标准工具（如 Linux、GCC 和 LLVM）进行编程，而不是依赖于封闭的专有软件生态系统。
“我们尚未披露完整的指令和数据格式支持，” Harold 说。“在架构层面，使用 RISC-V 的目的是保持开放性和可编程性。该系统旨在与标准软件基础设施（如 Linux、GCC 和 LLVM）协同工作，而不是要求客户采用封闭的专有编程环境。我们将在产品推出时更详细地披露特定指令和数据格式。”
该设计将遵循开放计算项目（OCP）规范，以确保与已建立的云和数据中心生态系统以及现有硬件的兼容性。这种方法旨在加快上市时间，并利用广泛部署的组件（从固态硬盘到服务器机架，从主板组件到电源）的规模经济。
“我们的目标是通过与数据中心基础设施实践和熟悉的软件环境对齐来减少部署摩擦，” 哈罗德说。“我们正在为运营商和集成商设计机架规模的部署平台，而不是作为一个独立的芯片，要求客户围绕它构建一切。随着系统设计的披露，我们将提供更多关于具体 OCP 兼容元素的细节。”
<h3>机架规模方法</h3>
与更广泛的行业趋势一致，SiPearl 和 Semidynamics 正在开发机架规模的平台，而不仅仅是一个 CPU 和一个旨在协同工作的加速器。具体而言，这两家公司预计该平台将提供 “卓越的每瓦性能”，并且 “密度与领先的 AI 平台相当”。这两项声明故意模糊，避免具体数字，尽管关于构建高效且具有竞争力的机架规模平台的总体信息是明确的。“我们针对的是数据中心机架规模的 AI 推理，而不是边缘或仅低功耗的 PCIe 产品，” 哈罗德说。“路线图包括为开发者和早期系统工作提供的 PCIe 卡，并扩展到液冷数据中心机架解决方案。”
对液冷机架的提及显然指向类似于 Nvidia 和 AMD 开发的平台，其中整个机架装配了数十个以扩展配置连接的加速器，像一个单一的加速器一样工作。因此，当 Semidynamics 和 SiPearl 提到来自领先全球 AI 平台的预期密度时，他们几乎肯定是指每个机架非常高的加速器数量。然而，关于相似密度的声明并不一定转化为相似的性能密度。
“我们尚未披露每个机架的加速器数量，因此直接将设计映射到 72 或 144 个加速器配置上还为时尚早，” 哈罗德说。
机架规模互连技术，如 Nvidia 的 NVLink 及其拓扑结构，是解锁 AI 加速器可扩展性的关键。虽然 Semidynamics 加速器的互连结构无疑是这两家公司正在研究的内容，但目前他们还没有准备好讨论关于该技术的细节。
“我们尚未披露完整的机架级互连结构，” 哈罗德说。“Semidynamics 开发了一种用于在机架内连接加速器的扩展方法，芯片级连接使用 UCIe。随着平台逐渐接近市场，我们将提供更多关于 CPU-加速器互连和机架级互连结构的细节。”
无论如何，下一代 SiPearl CPU 和 SiPearl 与 Semidynamics 共同开发的多芯片组 AI 解决方案都将使用 UCIe 互连。
“对于下一代 [CPU]，我们正在转向芯片组，” 诺顿说。“事实上，这正是像英特尔、AMD 和 Nvidia 这样的巨头正在做的。我们没有选择，因为开发大型芯片变得相当 [困难]。所以我们必须将设计进行分割。[…] 一旦我们有了芯片组，就可以进行组合。”
诺顿还强调了行业中最大未解决的问题之一：确保来自不同供应商的芯片组之间的可靠互操作性。他指出，来自英特尔、AMD 和三星电子等公司的当前芯片组生态系统仍然在很大程度上是垂直整合的，这突显了 SiPearl 与 Semidynamics 之间密切合作的重要性，以确保他们的多芯片组 AI 平台可靠运行。
诺顿还明确确认，该平台将需要一种概念上类似于 NVLink 的扩展互连结构，尽管他拒绝透露实施细节。当被直接问及机架规模互连结构时，他承认将系统连接在一起的重要性，但表示该主题仍处于早期阶段。
“你仍然需要将所有这些东西连接在一起，” 诺顿说。“要将所有东西连接在一起，你需要像 NVLink 这样的扩展互连结构，[但] 我们尚未发表评论。[…] 这仍然是一个相当早期和敏感的阶段。”
<h3>软件</h3>
为 AI 工作负载量身定制的软件生态系统是 Nvidia 仍然是 AI 硬件领先供应商的主要原因之一。为了不仅与 Nvidia 竞争，还与其他众多供应商竞争，SiPearl 和 Semidynamics 需要确保他们的软件堆栈既可访问又灵活。好消息是，基于 Arm 的 AI 系统 CPU 和基于 RISC-V 的 AI 加速器已经上市，并且已经得到了广泛的软件生态系统的支持。
“该平台旨在与现有的 AI 数据中心软件环境集成，而不是要求客户采用封闭的专有堆栈，” 哈罗德说。
“Semidynamics 预计机架在发货时将支持 vLLM、SGL、ONNX 和 PyTorch，” 他补充道。“在较低层面，该公司强调 Linux、GCC 和 LLVM 的支持，利用 RISC-V 的开放性使平台可编程并可访问广泛的软件生态系统。当然，在较低层面将有 Semidynamics 软件，在那里 PyTorch 操作被调度到加速器，但意图是发布并开放该层，而不是将其视为封闭的 CUDA 岛。”
<h3>定位</h3>
SiPearl 和 Semidynamics 正在为公共和私有 AI 数据中心部署定位他们即将推出的平台。具体来说，他们提到企业级推理以及用于运行性能需求高的大型语言模型（LLMs）和检索增强生成（RAG）工作负载的大规模 AI 集群。“第一代平台专注于大规模推理，” Harold 说。“这包括 LLM 服务、大型模型、长上下文工作负载，以及需要更大上下文窗口和数据集的新兴工作负载。我们看到推理正在从简单的单提示 LLM 服务向更具挑战性的推理和多模态用例发展，包括视频和长上下文处理。我们在这个阶段并没有提出关于自主 AI 的单独产品声明，但我们注意到自主 AI 对 AI 代理的内存容量施加了额外压力，而架构旨在支持推理和自主工作负载的发展方向。”
谈到自主 AI 工作负载时，SiPearl 的首席执行官还建议，行业正在从传统的 1:8 CPU 与 GPU 比率转向更接近 1:2 的比例，适用于许多推理部署。他还指出，自主 AI 可能会推动对 CPU 密集型甚至纯 CPU 机架的需求，这正是英特尔和英伟达的高管们所设想的。
“我们看到的是 [CPU 与 GPU 的比率正在变化]，” Notton 说。“过去是 1:8，[…] 1:2 是一个不错的目标。[…] 对于自主 AI，[我们] 甚至收到了仅需 CPU 的请求，纯 CPU 机架。”
为了应对 CPU 密集型工作负载，Notton 说，机架级解决方案将支持仅 CPU 机架的选项。同时，他强调这两家公司正在为尚未披露的合作伙伴开发参考设计，以便让他们的合作伙伴（目前尚未披露）进行生产，而不是像英伟达那样自己销售完整的机架。尽管如此，Notton 承认现代 CPU 供应商越来越需要参与机架级设计，以确保竞争力的上市时间和适当的系统集成。
“关键是确保我们有一个模块化的机架，” Notton 对 EE Times 说。“因此，根据需求，我们可以更改配置。[…] 很明显，我们需要 ODM 来帮助我们构建这些平台，因为我们没有意图自己运输和设计机架。”
由于这两家公司正在开发一个主要针对推理的 AI 平台，他们的总体关注点是最大效率、可编程性和低总拥有成本，而不是最终性能。
“我们并不是仅仅想在峰值计算数字上获胜，” Harold 说。“我们正在为真实数据中心部署中的高效令牌生成进行设计。这意味着内存效率、可编程性、系统集成和成本结构与原始吞吐量同样重要。这也是我们在当前设计中不强制使用 HBM 的原因。HBM 会带来供应和成本挑战，我们认为推理系统在根本上不同的成本结构是有价值的。”
这两家公司提到的 OCP 兼容性表明，从传统企业部署到超大规模电力基础设施的可扩展性，尽管后者并未具体提及。此外，这两家公司还参与了欧洲处理器倡议（EPI）、EuroHPC 和一些其他政府主导的倡议，因此可以预期他们将首先解决政府支持的基础设施，然后再转向企业，最后接触超大规模企业。不过，实际的商业计划仍有待观察。
该平台还瞄准了各种欧洲倡议，如 AI 工厂和 Giga 工厂计划，这些计划支持本土架构和本地供应链。不过，这两家公司承认，推动该平台的芯片不会在欧洲制造。
“我们的目标是为欧洲的 AI 基础设施提供一个可信的欧洲主导的大规模推理替代方案，” Harold 解释道。“这并不意味着半导体供应链的每个环节都物理位于欧洲。先进的半导体制造仍然是全球性的。但 Semidynamics 在关键架构、系统设计、软件方向和商业部署方面带来了对欧洲的控制，这些都是 AI 基础设施主权的关键部分。”
关于主权，Notton 对欧洲半导体的局限性发表了异常坦诚的看法。他表示，出于安全原因，设计基础设施、计算农场甚至仿真系统都保留在欧洲，而先进的制造和封装目前仍依赖于台湾。
“我们所做的是在欧洲进行设计，” Notton 说。“管理设计的计算农场在欧洲，并且是欧洲的。实际上，这是我们自己的计算农场。我们的仿真能力在欧洲，并且我们拥有它。[…] 所有工作都是在 [美国] 云中完成的，出于安全原因。今天，对于第一代和第二代，代工封装在亚洲。它在台湾。没有选择。”
他还指出，先进封装可能是恢复欧洲部分半导体制造能力的第一步，提到新加坡的 Silicon Box 及其在 2024 年的意大利扩张。
“先进封装可能是第一个到达欧洲的，” Notton 说。“一个好的例子是意大利的 Silicon Box。这家来自新加坡的公司在意大利设立了一个基地。这可能是将部分晶圆厂带到欧洲的第一步。”
<h3>可用性</h3>
关于可用性，目前没有明确的发布时间表。在推出 Rhea2 CPU 之前，SiPearl 必须首先将 Rhea1 处理器推向市场；目前正在进行采样。因此，第一代 SiPearl-Semidynamics AI 平台可能仍需几年时间。
至于 Semidynamics，该公司已经完成了一个用于架构验证和客户评估的 3 纳米测试芯片，计划在今年晚些时候进行生产设计流片。
“我们已经成功完成了 3 纳米测试芯片，这为架构验证和客户分析提供了平台，” 哈罗德说。“生产流片计划在今年晚些时候进行，随后进行系统启动。下一个主要里程碑是生产流片、硅片启动、系统集成，然后是客户部署。一旦这些里程碑进一步推进，我们会更具体地说明可用性。”
菲利普·诺顿确认，联合开发的 SiPearl-Semidynamics AI 平台计划在 ‘本十年’ 内推出，而不是下一个十年。Rhea2 的最终版本计划在 2027 年流片，届时硬件和软件开发人员将开始系统集成。他还强调，SiPearl 打算显著缩短与 Rhea1 相比的开发周期，并最终与主要美国公司的执行节奏相匹配。
“必须在本十年内，这就是我们需要迅速行动的原因，” 诺顿说。“Rhea2 将在 2027 年流片，假设是高级版本，但在此之前还有其他事情发生。[…] 第一代花了很长时间，因为我们必须建立公司，必须找到资金。从第二代到第三代，我们绝对需要缩短设计周期。[它] 不可能花五年时间设计一个处理器。[…] 我们需要更快。现在团队已经成熟，我们知道该怎么做。”
<hr/>
<h5>另请阅读：</h5>
<hr/>
AI 加速器，AI 推理，AI 模型，ARM，数据中心，处理器，RISC-V，半导体，主权 AI
ARM，RISC-V 国际，Semidynamics，SiPearl S.A.

标普半导体 ETF - SPDR

ARMW

2 倍做多 ARM ETF - Leverage Shares

费城交易所 半导体 ETF - iShares

2 倍做多 ARM ETF - T-Rex

半导体 3 倍做多 - Direxion

动态半导体 ETF - Invesco

半导体 ETF - VanEck Vectors

SiPearl 和 Semidynamics 宣布建立合作关系，开发一个欧洲主权 AI 平台，利用 SiPearl 的基于 Arm Neoverse V2 的 Rhea2 处理器和 Semidynamics 的基于 RISC-V 的 AI 推理加速器。这个为期多年的项目旨在创建一个具有竞争力的机架规模 AI 平台，以满足欧洲对本土 AI 硬件堆栈的需求。第一代将专注于 CPU-加速器内存一致性，未来的版本预计将增强芯片级集成

When Arm Meets RISC-V: SiPearl, Semidynamics to Co-Develop Sovereign AI Platform

- SiPearl 与 Semidynamics 合作开发欧洲首个主权 AI 平台。  
- 新平台将基于 SiPearl 的 Rhea2 和 Semidynamics 的 RISC-V 加速器。  
- 预计在 2027 年推出，旨在减少对外部供应商的依赖。

EE Times

Roundhill ARM WeeklyPay ETF

英伟达

NVIDIA Corporation

当 Arm 与 RISC-V 相遇：SiPearl 和 Semidynamics 将合作开发主权 AI 平台