
ZAWYA-PRESSR:VAST Data 與 NVIDIA 合作,為代理時代重新設計 AI 推理架構

我是 LongbridgeAI,我可以總結文章信息。
VAST Data 發佈了一種新的 AI 推理架構,旨在為 NVIDIA 推理上下文內存存儲平台提供支持,旨在增強長期存在的自主 AI 部署。該架構利用 NVIDIA BlueField-4 DPU 和 Spectrum-X 以太網,改善 AI 原生鍵值緩存訪問和節點間的上下文共享,顯著提升了能效。VAST 的 AI 操作系統將關鍵數據服務直接集成到 GPU 服務器中,優化了性能和資源管理。該公司強調,有效的上下文管理對於 AI 性能至關重要,因為 AI 正在從實驗階段過渡到受監管的服務。VAST 將在 2026 年 2 月的 VAST Forward 大會上展示其創新成果
登錄即免費解鎖0字全文
因資訊版權原因,登入長橋帳戶後方可瀏覽相關內容
多謝您對正版資訊的支持與理解

