03:01 ETParasail 将结合 NVIDIA AI 基础设施与 d-Matrix 加速器，以实现代币生成速度提升 10 倍
我是 LongbridgeAI，我可以总结文章信息。Parasail 和 d-Matrix 宣布建立合作伙伴关系，将 NVIDIA Hopper 和 Blackwell GPU 与 d-Matrix Corsair 加速器相结合。这种异构方法旨在通过将 NVIDIA 的计算密集型预填充能力与 Corsair 的低延迟解码性能相结合，实现高达 10 倍更快、更具成本效益的 AI 推理。该部署延伸了现有硬件的价值，并改善了 Parasail 客户的推理经济性
推理服务提供商通过将 NVIDIA Hopper 和 Blackwell GPU 与 d-Matrix Corsair 加速器配对，提供更快、更具成本效益的令牌
, /PRNewswire/ -- Parasail，AI 原生初创公司的推理云，以及 d-Matrix，数据中心低延迟 AI 推理计算平台的先驱，今天宣布 Parasail 正在部署 d-Matrix Corsair 推理加速器，与 NVIDIA Hopper 和 NVIDIA Blackwell 架构配合，为其客户提供高达 10 倍更快、更具成本效益的推理服务。
继续阅读
Parasail，AI 原生初创公司的推理云
Parasail 的 Corsair 部署标志着异构解耦推理在生产中的首个商业规模示例之一，其中 NVIDIA AI 基础设施与 d-Matrix 专为推理设计的 Corsair 加速器协同工作，各自执行其擅长的计算任务。通过这种方法，Parasail 旨在通过结合 NVIDIA GPU 进行计算密集型的预填充与 d-Matrix Corsair 加速器进行延迟敏感的解码，改善特定工作负载的推理经济性。
由于新数据中心的审批和建设是一个多年的过程，Parasail 正在与 d-Matrix 采用异构计算方法，以从其数据中心中现有的 NVIDIA AI 基础设施中获得更多价值。通过将 Corsair 与其 Hopper 和 Blackwell 设备配对，Parasail 正在扩展设备性能，并将收益直接传递给其客户。对于依赖 Parasail 平台的开发者和企业而言，结果很简单：今天更快、更具经济效益的令牌。
"我们对提供每美元最佳推理性能不遗余力，" Parasail 的创始人兼首席执行官 Mike Henry 说。"每个人都在关注下一代 GPU，但我们今天就运行着大型 Hopper 和 Blackwell 设备，将它们与 Corsair 配对，让我们能够为客户提供所需的优势，同时延长我们已经部署的硬件的使用寿命。"
"Parasail 正在证明我们从一开始就相信的事情：推理的未来是异构的，" d-Matrix 的创始人兼首席执行官 Sid Sheth 说。"GPU 和专为推理设计的加速器并不是竞争对手；它们更适合一起工作。通过将 Corsair 部署在他们的 NVIDIA 设备旁边，Parasail 正在采用一种异构推理方法，旨在优化工作负载的每个阶段。"
推动最大效率的技术创新 Parasail 的自动内核优化技术在此次部署中发挥了关键作用，动态地将工作负载路由到合适的硬件，以在异构设备中提取每个模型的最大性能和价值。结果是一个基于云的令牌服务，为 Parasail 的客户提供大规模的优质推理经济性。
d-Matrix Corsair 的性能优势源于 d-Matrix 独特的数字内存计算 (DIMC) 芯片架构，该架构将计算与内存集成在同一硅片上。在传统系统中，数据在推理过程中必须在单独的内存和处理器芯片之间来回传输，这在每次传输中消耗时间、功耗和成本。Corsair 完全消除了这一惩罚，使得交互式推理速度提高高达 10 倍，能效比传统方法提高高达 3 倍。Corsair 的架构基于 TSMC 的 N6 工艺，采用有机基板和 LP-DDR5 内存，旨在支持像 Parasail 这样的客户进行高效、可扩展的推理部署。
这些公司计划在首次部署后分享详细的性能结果和案例研究，并探索在 15 个国家的 Parasail 全球 40 多个数据中心之间的扩展集成。
可用性 d-Matrix 的 Corsair 推理平台现已向部分合格客户开放。如需咨询和考虑，请访问：https://www.d-matrix.ai/contact-sales/。Parasail 推理服务现已可用。如需与工程师交谈以了解更多信息，请访问 www.parasail.io/contact。
关于 Parasail Parasail 是 AI 原生初创公司的推理云，旨在提供可靠性、性能和灵活性以进行扩展。其平台允许开发者通过基于可编程网络的生产就绪模型端点加速其 AI 原生产品，该网络从 15 个国家的 40 多个数据中心聚合高性能 GPU 供应，所有这些都在五分钟内只需几行代码。成千上万的开发者和数百家企业客户正在使用 Parasail 开发，无需担心模型性能或速率限制。
关于 d-Matrix d-Matrix 正在开创 AI 推理的加速计算，突破延迟、成本和能耗的限制。其 Corsair 推理加速器、JetStream 网络加速器、Aviator 软件和 SquadRack 机架规模解决方案在数据中心规模上提供快速、可持续的 AI 推理。了解更多信息，请访问 www.d-matrix.ai。
来源 d-Matrix
