我是 LongbridgeAI,以下是我提取的核心信息- Vera Rubin NVL72 系統帶來超 10 倍的智能體推理每瓦吞吐量。…
在今天發佈的 MLPerf 基準測試首秀結果中,英偉達 Vera Rubin 平台在訓練、訓練後處理以及代理式推理方面均提供了領先的性能。
英偉達橫掃了所有 MLPerf Training v6.1 基準測試,並在其首次提交的 MLPerf Endpoints 測試中,為代理式 AI 帶來了超過 10 倍的每瓦吞吐量代際提升——該指標衡量系統每消耗一瓦電力所能完成的代理式工作量。
這些結果僅僅是開始。隨着英偉達基於 CUDA 的軟件棧持續優化,Vera Rubin 的性能將繼續提升,從而使客户今天投資的基礎設施隨着時間的推移交付更多價值。
英偉達橫掃 MLPerf Training v6.1
AI 代理如今無處不在,它們編寫代碼、運行業務工作流、回答客户問題,正如本週 SC26 大會所強調的那樣,還在推動科學研究的發展。
更快的訓練意味着更智能的代理能更快觸達用户,藥物發現模型能跟上新的實驗室數據節奏,欺詐檢測模型能更快地適應新威脅。
MLPerf Training 衡量系統將各種 AI 模型訓練至目標準確度水平的速度。
英偉達平台是本輪測試中唯一在所有基準測試中均有結果的平台,涵蓋大型語言模型、圖像生成、推薦系統和強化學習訓練後處理。在首秀中,Vera Rubin NVL72 提供的每 GPU 性能高達高度優化的英偉達 GB300 NVL72 系統的 2 倍——這些早期結果展示了代際創新的速度。

MLPerf Training v6.1 結果於 2026 年 11 月 16 日從 www.mlcommons.org 檢索,來自以下條目:6.1-0116、6.1-0030、6.1-0135、6.1-0020、6.1-0049、6.1-0123、6.1-0138、6.1-0073、6.1-0124、6.1-0129 和 6.1-0038。MLPerf 名稱和標誌是 MLCommons Association 在美國和其他國家/地區的商標。版權所有。嚴禁未經授權使用。更多信息請訪問 www.mlcommons.org。
英偉達還展示了大規模擴展下的性能。在 DeepSeek-V3 基準測試中,Vera Rubin NVL72 從 256 個 GPU 擴展到 1,024 個 GPU,效率約為 97%:GPU 數量增加四倍,訓練時間從 16 分鐘縮短至約 4 分鐘。
英偉達還在擁有 10,240 個 GPU 的 GB300 系統上運行了該基準測試,代表了本輪測試中的最大規模。微軟 Azure 使用配備 GB200 系統的 10,240 個英偉達 GPU 達到了同等規模。
這種規模下的結果至關重要,因為只有當 GPU 能夠高效協同工作時,增加 GPU 數量才能加速訓練。英偉達 NVLink Scale-up 網絡連接每個系統內的 GPU,使其作為一個整體運行;而英偉達 Quantum-X800 InfiniBand 和 Spectrum-X Ethernet Scale-out 網絡則將數據中心內的這些系統相互連接。結合優化的軟件,這使得數千個 GPU 能夠協同工作,幫助開發者構建更智能的模型,同時縮短訓練時間。
英偉達 Vera Rubin 在 MLPerf Endpoints 代理式推理中處於領先地位
一個用於旅行的 AI 代理,負責規劃和預訂整個行程——或者一個 IT 代理,在任何人提交工單之前發現並解決問題——可能需要經過推理、調用工具和檢查工作等多個步驟才能完成單個任務。
每一個步驟都會生成令牌(tokens)。由於 AI 數據中心受限於電力,系統每瓦電力每秒生成的令牌越多,它能服務的代理就越多,創造的價值也就越大。
MLPerf Endpoints 針對真實的代理式編碼和企業工作流對系統進行測試,並檢查代理是否仍能正確完成任務。英偉達 Vera Rubin 在其所有代理式基準測試中均處於領先地位。
例如,在 Kimi K3(一種專為代理式工作流構建的大型開放模型)的初步結果中,Vera Rubin NVL72 系統在相同響應速度下,每瓦吞吐量是英偉達 GB300 NVL72 的 10 倍以上。

MLPerf® Endpoints v1.0,Kimi K3,標準化分部,可用類別,發佈於 2026 年 11 月 9 日。NVIDIA Vera Rubin NVL72,32 個加速器,結果 1.0.1.kimi-k3.agentic_combined.1p,運行 9:併發 = 1,024 個查詢,TTFT P90 = 4,673.9 ms,系統 TPS = 41,414.2 tokens/sec,端到端平均交互性 = 50.4 tokens/sec/用户,運行功率 = 100.89 kW。NVIDIA GB300 NVL72,48 個加速器,結果 1.0.0.kimi-k3.agentic_combined.1,運行 6:併發 = 48 個查詢,TTFT P90 = 2,305.1 ms,系統 TPS = 2,210.4 tokens/sec,端到端平均交互性 = 56.2 tokens/sec/用户,運行功率 = 60 kW。比較基於在每位用户端到端平均交互性最低為 50 tokens/sec 時的每千瓦吞吐量。數據於 2026 年 11 月 9 日從 endpoints.mlcommons.org 檢索。GB300 結果經 MLCommons Association 驗證。對於 Vera Rubin 的初步結果:待 MLCommons Association 驗證,結果可能因同行評審而發生變化。MLPerf 名稱和標誌是 MLCommons Association 在美國和其他國家/地區的註冊商標和非註冊商標。版權所有。嚴禁未經授權使用。更多信息請訪問 www.mlcommons.org。
每項 AI 服務都必須在同時服務眾多用户與快速響應每個用户之間取得平衡。Vera Rubin 改變了這一整體曲線,在加快響應速度的同時服務更多用户。
在基準測試和工作負載方面的全面領先
英偉達合作伙伴廣泛參與了 MLPerf Training,共有 20 家組織提交結果:ASUS、Azure、Cisco、CoreWeave、Crusoe、Dell Technologies、Firmus、Fujitsu、Giga Computing、Google Cloud、HPE、Inventec、Krai、Lambda、Nebius、Oracle、Quanta Cloud Technology (QCT)、Supermicro、TTA 和佛羅里達大學。
他們的提交結果表明,英偉達的可編程平台憑藉開源庫和框架,讓龐大的合作伙伴生態系統得以創新並優化 AI 訓練性能。
這種領先地位不僅侷限於 MLPerf。
Vera Rubin 在 SemiAnalysis AgentX 和 Artificial Analysis AgentPerf 等獨立基準測試中也提供了領先的性能,展示了相同的英偉達基礎設施如何高效運行從預訓練、訓練後處理到代理式推理的各種任務,以及 AI 之外的工作負載,例如本週在 SC26 大會上展示的高性能計算。
深入瞭解 MLPerf Training 和 MLPerf Endpoints 技術博客中的結果。
