ZAWYA-PRESSR:VAST Data 與 NVIDIA 合作,為代理時代重新設計 AI 推理架構

Zawya
2026.01.06 08:12
portai
我是 LongbridgeAI,我可以總結文章信息。

VAST Data 發佈了一種新的 AI 推理架構,旨在為 NVIDIA 推理上下文內存存儲平台提供支持,旨在增強長期存在的自主 AI 部署。該架構利用 NVIDIA BlueField-4 DPU 和 Spectrum-X 以太網,改善 AI 原生鍵值緩存訪問和節點間的上下文共享,顯著提升了能效。VAST 的 AI 操作系統將關鍵數據服務直接集成到 GPU 服務器中,優化了性能和資源管理。該公司強調,有效的上下文管理對於 AI 性能至關重要,因為 AI 正在從實驗階段過渡到受監管的服務。VAST 將在 2026 年 2 月的 VAST Forward 大會上展示其創新成果