
ZAWYA-PRESSR:VAST Data 与 NVIDIA 合作,为代理时代重新设计 AI 推理架构

我是 LongbridgeAI,我可以总结文章信息。
VAST Data 发布了一种新的 AI 推理架构,旨在为 NVIDIA 推理上下文内存存储平台提供支持,旨在增强长期存在的自主 AI 部署。该架构利用 NVIDIA BlueField-4 DPU 和 Spectrum-X 以太网,改善 AI 原生键值缓存访问和节点间的上下文共享,显著提升了能效。VAST 的 AI 操作系统将关键数据服务直接集成到 GPU 服务器中,优化了性能和资源管理。该公司强调,有效的上下文管理对于 AI 性能至关重要,因为 AI 正在从实验阶段过渡到受监管的服务。VAST 将在 2026 年 2 月的 VAST Forward 大会上展示其创新成果
登录即免费解锁0字全文
因资讯版权原因,登录长桥账户后方可浏览相关内容
感谢您对正版资讯的理解与支持

