我是 LongbridgeAI,以下是我提取的核心信息- 雙方在 Ignite 大會上推出集成 Vera Rubin NVL72 的 Azure 虛擬機及開放模型。…
英偉達和微軟正在擴展其全棧合作,幫助各類組織構建、定製和部署智能應用——範圍涵蓋從 Azure 上的下一代基礎設施到工業系統和 Windows PC。
在 Microsoft Ignite 大會上,兩家公司正擴大對由英偉達 Vera Rubin NVL72 系統驅動的 Azure 虛擬機的訪問權限,同時通過 Microsoft Foundry 增加客户對英偉達開放模型及定製功能的使用機會,並提供在邊緣運行 AI 的新選項,讓企業能夠在生成和使用數據的現場進行 AI 處理。
微軟還利用英偉達技術加速其自身的模型和服務,包括用於後訓練推理的英偉達 Dynamo 推理軟件,以及用於必應搜索模型的英偉達 RTX PRO 6000 Blackwell GPU。
Azure 中運行的英偉達 Vera Rubin NVL72
英偉達 Vera Rubin NVL72 系統已在 Azure 數據中心運行,提供專為高要求推理、智能體應用以及大規模模型訓練和推理而設計的基礎設施。
微軟和英偉達還在合作,將機密計算擴展至裸金屬和機架級 AI 基礎設施。這項工作有助於在處理過程中保護敏感模型和數據,支持需要處理專有或受監管信息的組織。
英偉達機密計算和遠程證明幫助客户在釋放敏感模型、數據或密鑰之前驗證計算環境。隨着 AI 工作負載跨越更多互聯加速器,兩家公司正致力於將這些保護措施擴展到整個 AI 工廠基礎設施。
為了幫助數據中心從可用電力中獲得更高性能,英偉達和微軟還利用英偉達 MaxLPS 在能效方面開展合作。
Azure 的 Vera Rubin 預覽版建立在英偉達和微軟的協同設計和性能優化基礎之上,最新的基於英偉達 Blackwell 的 MLPerf 結果也印證了這一點。在 MLPerf Training v6.1 中,Azure 在 DeepSeek-V3 模型上擴展至 10,240 個配備 GB200 NVL72 系統的英偉達 GPU,創下本輪測試的最大規模紀錄。據 Signal65 數據顯示,在 MLPerf Inference v6.1 中,Azure 的英偉達 GB300 NVL72 系統在 DeepSeek-R1 交互式吞吐量方面領先其他雲提交超過 10%。
幫助企業定製和部署開放模型
企業級 AI 智能體需要能夠推理複雜任務、查找相關企業信息並理解業務文檔。英偉達和微軟正在擴大通過 Microsoft Foundry 提供的模型和服務,幫助開發者將這些能力融入業務應用。
微軟的無服務器 Programmed Training 產品讓開發者能夠控制後訓練工作流,而 Foundry 則管理底層基礎設施。企業可以專注於其業務數據,評估模型響應並改進模型行為。
Foundry Managed Compute 增加了對部署自定義模型權重的支持,幫助通過微軟的託管服務將模型定製與部署連接起來。
安永(EY)在 Microsoft Foundry 中使用 Programmed Training 調整英偉達 Nemotron 開放模型,用於分類企業採購記錄,與其評估數據集上的專有前沿模型相比,準確率提高了 55%,成本降低了 15 倍。這項工作展示了企業如何為專業化業務任務定製開放模型。
Foundry Managed Compute 上擴展的英偉達 Nemotron 3.5 系列支持企業應用中的不同需求。Nemotron 3.5 Super 專為在編碼、研究和業務工作流中長時間運行的智能體而設計,而 Lightning 則支持需要快速響應和工具使用的應用。
互補模型幫助智能體通過 Nemotron Embed 和 Rerank 查找相關信息,通過 Nemotron Parse 從文檔中提取結構化信息,並通過 Nemotron Content Safety 檢測有害內容。專為高吞吐量、低延遲推理設計的 Nemotron 3.5 Bolt 以及用於語音識別的 Transcribe 即將推出。
讓 AI 更貼近企業數據
英偉達和微軟正在擴展雲之外的部署選項,幫助組織在保持對基礎設施和運營控制的同時,在其數據附近運行模型和智能體。
Foundry Local 中對 Nemotron 3.5 的擴展支持將推理、編碼和使用工具的智能體能力帶入 Azure Local 環境。檢索模型幫助應用在文本、文檔圖像、圖表和表格中查找證據。
Azure Local 還將支持來自硬件合作伙伴的英偉達 RTX PRO 6000 Blackwell GPU,為組織提供在本地部署 AI 的額外選項。
Azure Local 正擴展至英偉達 Jetson Thor 和 Jetson Orin 邊緣 AI 平台,以支持機器視覺、機器人技術和自主操作等工業應用。包括 Cosmos 在內的英偉達物理 AI 模型也將引入 Foundry Local。
在由英偉達 RTX Spark 驅動的 Windows PC 上,英偉達和微軟將在 Ignite 大會上展示本地大語言模型體驗,演示開發者如何直接在設備上運行 AI 應用。
對於使用 Cloud PC 的組織,兩家公司將為 GPU 加速的 Windows 365 Cloud PC 帶來 Direct Stream 功能。這些功能支持高要求的圖形應用,即使在具有挑戰性的網絡環境下,也能以每秒 60 幀的速度提供多達兩個 4K 流且保持低延遲。目前有限預覽版已開放註冊,公共預覽版計劃於 2027 年初推出。
將科學 AI 與微軟 Discovery 連接
在科學研究領域,英偉達 BioNemo Agent Toolkit 和英偉達 ALCHEMI Toolkit 正擴展至微軟 Discovery 目錄,將生命科學、藥物發現以及材料和化學科學的模型引入微軟的智能體研究平台。
BioNeMo Agent Toolkit 幫助科學家使用自然語言在微軟 Discovery 中運行計算生物學工作流,由智能體協調執行工作所需的工具和模型調用。
初步集成使用了與華盛頓大學蛋白質設計研究所合作開發的 RFD4-Proteina 模型,以生成候選蛋白質結構和氨基酸序列,供進一步評估和實驗室驗證。
加速微軟的模型和服務
除了擴大客户對英偉達技術的訪問權限外,微軟還在其自身的 AI 開發和服務中使用英偉達軟件和加速計算。
微軟 AI 使用英偉達 Dynamo 支持後訓練期間的強化學習 rollout 推理。這一計算密集型過程會生成用於改進模型的體驗數據。
Dynamo 協調大型 GPU 集羣中的推理,優化性能,並幫助管理請求、模型更新和故障恢復。該部署建立在微軟 AI 和英偉達的聯合工程基礎之上。
請訪問 Ignite 大會上的英偉達展位 ,觀看涵蓋企業應用、機器人技術、加速數據處理和本地計算的演示,展品包括英偉達 GB300 NVL72 機架和 RTX Spark 設備。查看 英偉達會議議程、動手實驗和展位劇場演示 _。
