走出低谷,擁抱 AI 大時代(英偉達 FY24Q1 電話會)

一、FY24Q1 財報概括

1. 收入端:$英偉達(NVDA.US) 營收 71.92 億美元,YoY-13%,超出市場預期(10.39% beat)。

2. 盈利端:Non-GAPP 淨利潤 27.13 億美元,YoY-21%,超出市場預期(19.53% beat);淨利潤率 37.72%,YoY-3.82pct,超出市場預期(3.64pct beat)。

3. FY2Q24 指引:

(1)收入:110 億美元左右,上下浮動 2%。

(2)GAPP 和 Non-GAPP 毛利率:分別為 68. 6% 和 70%,上下浮動 50 個基點。

(3)GAPP 和 Non-GAPP 運營費用:分別為 27. 1 億美元和 19 億美元。

(4)GAPP 和 Non-GAPP 其他收入和支出:9000 萬美元,其中不包括非附屬投資的收益和損失。

(5)GAPP 和 Non-GAPP 税率:14%,上下浮動大概是 1%。

(6)資本支出:3 - 3.5 億美元。

二、業績會小結

一、增量信息:

(1)數據中心業務:推出 4 個推理平台(L4、L40、H100、Grace Hopper);Google Cloud 成為第一家提供 L4 Tensor Core GPU 的 AIGC 雲服務商;AWS、Google Cloud、Azure、Oracle Cloud Infrastructure 開始提供 H100 Tensor Core GPU 的雲服務產品(DGX)。

(2)遊戲業務:推出 4060 GPU、4070 GPU;DLSS 支持遊戲數增加 33 個至 300 個。

(3)專業可視化業務:宣佈推出 Omniverse Cloud;Omniverse 將接入 Microsoft 365;推出 6 款新 RTX GPU。

(4)汽車與自動駕駛業務:汽車定點未來 6 年內將增長至 140 億美元,高於一年前的 110 億美元;比亞迪新車型將使用 Orin。

二、業績會原文

(一)管理層發言

【1】業績表現

1. 數據中心

1Q 收入為 79 億美元,環比增長 19%,同比下降 13%。強勁環比增長來自創紀錄的數據中心收入,及遊戲和專業可視化平台渠道庫存調整。數據中心 42.8 億美元收入創紀錄,環比增長 18%,同比增長 14%,得益於全球計算平台的強勁增長加速。

生成式 AI 正在推動計算需求呈指數級增長,並快速過渡到 NVIDIA 加速計算,這是訓練和部署 AI 的最通用、最節能、TCO 最低的方法。生成式 AI 推動了對公司產品需求的顯着增長,客户類別橫跨三大領域,雲服務提供商(CSP)、消費者互聯網公司和企業。全球首批 CSP 競相部署旗艦 Hopper 和 Ampere 架構 GPU,以滿足企業和消費 AI 應用程序對訓練和推理的激增需求。

多個 CSP 宣佈在其平台上提供 H100,如 AWS、Google Cloud、Azure、Oracle Cloud Infrastructure 開始提供 H100 Tensor Core GPU 的雲服務產品(DGX)。除了企業採用 AI 之外,這些 CSP 還滿足生成 AI 先驅對 H100 的強烈需求。其次,消費互聯網公司也處於採用生成人工智能和基於深度學習的推薦系統的前沿,推動了強勁增長,如 Meta 人工智能生產和研究團隊已經部署了由 H100 驅動的 Grand Teton 人工智能超級計算機。

第三方企業對人工智能和加速計算的需求強勁,汽車、金融服務、醫療保健和電信等垂直領域的發展勢頭猛烈,人工智能和加速計算正迅速成為客户創新路線圖和競爭定位的內部調用。如,彭博宣佈其擁有價值 500 億美元的參數模型編號 GPT,用於幫助金融自然語言處理任務,包括情感分析命名實體識別最近分類和問答。汽車保險公司 CCC 智能解決方案正在使用 AI 進行維修估算。AT&T 正在與公司合作開發人工智能,以改善車隊調度,以讓現場技術人員更好地為客户服務。使用 NVIDIA AI 的其他企業客户包括,用於物流和客户服務的 Dubourg 和用於藥物發現和蛋白質工程的 Amgen。

本季度,開始出貨 DGX H100 的 Hopper AI 系統,客户可以在本地部署該系統;並與 Microsoft Azure、Google Cloud 和 Oracle Cloud Infrastructure 的合作推出 DGX Cloud

無論客户是在本地部署 DGX 還是通過 DGX Cloud 部署,都可以訪問 NVIDIA AI 軟件,包括基於 NVIDIA 的命令和 AI 框架以及預訓練模型。公司為他們提供構建和操作 AI 的藍圖,擴展在系統算法數據處理和培訓方法方面的專業知識。推出 NVIDIA AI Foundation 大模型服務,這是 DGX Cloud 上提供的模型訓練服務,使企業能夠構建、改進和操作自定義大型語言模型和生成 AI 模型,這些模型使用自己的專有數據進行訓練,以完成獨特的領域特定任務,包括用於大型語言模型的 NVIDIA Nemo、用於圖像視頻和 3D 的 NVIDIA Picasso 以及用於生命科學的 NVIDIA BioNemo。每一個都有六個元素的預訓練模型框架,用於數據處理和管理基於知識的專有部門數據庫。用於微調對齊和 Garberding 優化推理引擎的系統以及來自 NVIDIA 專家的支持,可幫助企業針對其客户用例微調模型。領先的企業服務平台 ServiceNow 是 DGX 雲和 Nemo 的早期採用者,他們開發了經過數據訓練的定製大型語言模型,專門針對 ServiceNow 平台,公司將與 ServiceNow 合作,創建新的企業級生成 AI 產品。全球企業都可在 ServiceNow 平台上運行,包括 IT、客户服務和開發人員。

生成式 AI 還推動了階躍增長。4 月發佈的最新 AEMO perf 行業基準測試顯示 NVIDIA 的推理平台提供的性能領先於行業幾個數量級,並且具有跨不同工作負載的無與倫比的多功能性。

為幫助客户在 GTC 上部署大規模的生成式 AI 應用程序,推出四個主要的新應用程序:L4、L40、H100、Grace Hopper。

Google Cloud 是第一個採用 L4 推理平台的 CSP,推出了用於生成式 AI 推理的 G2 虛擬機等,呈現 3D 和增強現實體驗。此外,Google 正在將 Triton 和 French 服務器與 Google Kubernetes 引擎及其基於雲的 Vertex AI 平台相集成。

CSP 和企業客户對生成式 AI 和加速計算的需求強烈,需要 Mellanox 網絡平台這樣的高性能網絡;與通用 CPU 基礎設施相關的需求仍然疲軟。

隨着生成式 AI 應用程序的規模和複雜性不斷增加,高性能網絡對提供加速計算和數據中心規模以滿足對訓練和推理的巨大需求至關重要。NVIDIA Quantum-2 InfiniBand 是 AI 專用基礎設施的黃金模板,在主要雲和消費互聯網平台(如 Microsoft Azure)中得到廣泛採用。

結合網絡內計算技術和業界唯一的端到端數據中心規模,經過優化的軟件庫存客户通常可以將其大規模基礎設施投資的吞吐量提高 20%。對於多租户雲過渡以支持生成 AI,高速以太網平台配備 BlueField 和用於以太網交換的 Spectrum,可提供最高的可用以太網網絡性能。

Bluefield 3 在生產中,並已被多個超大規模和 CSP 客户採用,包括 Microsoft Azure Oracle Cloud 、百度等。

Grace 數據中心 CPU 在本週於德國舉行的國際超級計算大會上向客户提供樣品,布里斯托大學宣佈了一款基於 NVIDIA Grace CPU SuperChat 的新型超級計算機,其能效是之前超級計算機的六倍。這進一步推動了 Grace 在 CPU only 和 CPU、GPU 跨 AI 和雲以及超級計算應用程序方面的增長勢頭。即將到來的 Bluefield3 Grace 和 Grace Hopper superchat 浪潮將使新一代超級節能加速變成現實。

2. 遊戲

收入為 22.4 億美元,環比增長 22%,同比下降 38%。用於筆記本電腦和台式機的 40 系列 GeForce RTX GPU 的銷售推動了強勁的環比增長。總體而言,需求穩健且符合季節性,顯示出在充滿挑戰環境中的韌性。

GeForce RTX 40 系列 GPU 筆記本電腦為遊戲玩家和創作者帶來了工業設計性能和電池壽命方面的巨大收益。

40 系列筆記本電腦,支持 NVIDIA Studio 平台軟件技術,包括加速創意、數據科學和 AI 工作流程,以及為內容創作者提供無與倫比的工具和功能的 Omniverse。在台式機中,提升了 RTX 4070,加入了之前推出的 RTX 4090 4080 和 4070 Ti, GPU 的 RTX 4070 比 RTX 2070 快近三倍。

上週,推出了 60 系列 RTX4060 和 4060 Ti,將最新的架構帶給全球核心遊戲玩家,起價僅為 299 美元,這是 GPU 首次提供主流價位的最新遊戲機性能。4060Ti 從今天開始提供,4060 將在 7 月提供。

在本週早些時候的 Microsoft Build 開發者大會上,展示了配備 NVIDIA RTX GPU 的 Windows PC 和工作站將如何支持 AI 户外通話。和微軟在端到端軟件工程方面展開合作,從 Windows 操作系統 NVIDIA 圖形驅動程序和 Nemo 框架,以幫助使基於 NVIDIA RTX GPU 的 Windows 成為生成 AI 的增壓平台。

上季度,宣佈與微軟建立合作伙伴關係,將 Xbox PC 遊戲引入 GeForce。第一款遊戲 Gears 5 現已上市,未來幾個月將發佈更多遊戲;GeForce NOW 上現在有超過 1600 款遊戲。

3. 專業可視化

收入為 2.95 億美元,環比增長 31%,同比下降 53%。環比增長系公共部門醫療保健和汽車等關鍵垂直領域對工作站的強勁需求推動的;渠道庫存調整已經過去。

推出六款適用於筆記本電腦和台式機工作站的全新 RTX GPU,並計劃在未來幾個季度進一步推出新產品。

生成式 AI 是公司支持的工作站的主要新工作負載。與微軟的合作將 Windows 轉變為理想的平台,創作者利用生成 AI 來提高他們的創造力和生產力。在 GTC 推出了 NVIDIA Omniverse 雲、NVIDIA 全託管服務運行以及 Microsoft Azure,包括全套 Omniverse 應用程序和使用此全堆棧雲環境的 NVIDIA OVX 基礎設施,客户可以設計、開發、部署和管理工業元宇宙應用程序;NVIDIA Omniverse 雲將從今年下半年開始提供。

將 Office 365 應用程序與 Omniverse 連接起來;汽車行業一直是 Omniverse 的早期採用者,包括寶馬、捷豹、路虎。

4. 汽車與自動駕駛

營收為 2.96 億美元,環比增長 1%,同比增長 114%。強勁的同比增長是由 NVIDIA Drive Orin 在許多新能源汽車上的增長推動。

汽車定點未來 6 年內將增長至 140 億美元,高於一年前的 110 億美元。不過,由於中國的一些 NAV 客户由於需求低於預期而調整生產計劃,因此增長放緩,此趨勢在今年餘下的時間裏持續。

本季度,擴大了與比亞迪的合作伙伴關係。比亞迪是全球領先的 NAV 製造商,公司的新設計將比亞迪對 Drive Orin 的使用擴展到其下一代大批量 Dynasty 和 ocean 系列車輛,這些車型將在 2024 生產。

【2】FY2Q24 指引

(1)收入:110 億美元左右,上下浮動 2%。

(2)GAPP 和 Non-GAPP 毛利率:分別為 68. 6% 和 70%,上下浮動 50 個基點。

(3)GAPP 和 Non-GAPP 運營費用:分別為 27. 1 億美元和 19 億美元。

(4)GAPP 和 Non-GAPP 其他收入和支出:9000 萬美元,其中不包括非附屬投資的收益和損失。

(5)GAPP 和 Non-GAPP 税率:14%,上下浮動大概是 1%。

(6)資本支出:3 - 3.5 億美元。

(二)Q&A

Q:在數據中心方面,從 4 月到 7 月,進一步發展的驅動因素;下半年的可見性更多受供應側制約,2Q 後(7 月季度後)供應鏈所能支撐的環比增長

A:【1】數據中心進一步發展的驅動因素

預計 2Q 和 1Q 相比,AI 會有進一步的發展。眾所周知,生成式 AI 和大語言模型都在如火如荼地向前推進,相關需求非常強勁。公司與消費互聯網公司有密切合作,而 CSPs 和 AI 初創公司也對英偉達的新舊架構都非常感興趣,Hopper 和 Hopper 之前的架構都非常受歡迎。這並不奇怪,因為公司通常同時出售兩種架構,這也是深度推薦推動增長的關鍵領域,預計計算和網絡業務會增長。

【2】數據中心供應鏈

2Q 指引已充分考慮各方面的因素,目前正在處理本季度的供應鏈問題,下半年供應鏈方面會有進一步的舉措,已為下半年採購了大量的物資和原材料,希望在供應鏈方面有更好的保障以滿足強勁客户需求。客户非常廣泛,其中有的是正在為一些大型公司搭建平台,有的是 CSPs 和消費互聯網公司。

數據中心進一步強勁發展的勢頭至少會持續幾個季度,前景非常好,會努力快速採購以滿足下半年的大量供應。

Q:推動服務器加速的進展;如何與 TSMC 及其他合作伙伴合作,如交貨時間和供需展望

A:公司正在全面生產 Hopper 和 Ampere 相關產品,這些新產品將更好地服務於 AI 場景,大量的技術、知識正在逐漸彙集以支持 AI 的發展,這也是公司將其視為下一輪 “iPhone 時刻” 的原因。

數據中心市場正在朝向加速計算的方向發展,而且已經發展了一段時間,公司積累 15 年的技術足以讓整個數據中心的主要應用得到加速,並降低能耗和成本,AIGC 的出現加速了這個進程。

過去全球接近 1 萬億美元的數據中心市場由 CPU 主導,而未來 AI 將成為大多數數據中心的主要工作負載,因此預算將向加速計算傾斜,從傳統計算轉向 GPU、智能 NIC。

訂單方面,過去 10 年數據中心訂單持續增長,未來增長趨勢持續。希望抓住當前的 AI 拐點,實現數據中心方面更進一步的增長。

Q:面對新的需求形勢,公司與包括台積電在內的供應商的關係發生了什麼變化;如何更好地實現供需匹配

A:超級計算機是一個巨型系統,公司目前正在全力生產相關產品,除了 GPU 以外,整個超級計算機系統包括 3.5 萬個零組件,以及網絡通信、光纖、NIC、智能 NIC 等組件,公司正在提高採購量。

Q:數據中心在 Q3、Q4 是否能維持增長

A:首先,公司並不會對下半年的具體情況做出指引,但下半年的需求是有可見度的,公司也在積極提高採購量以滿足下半年的成長,H2 的供應量將大於 H1

Q:競爭格局是否會發生變化;定製 ADIC 是否將帶來更多挑戰;未來 2-3 年內是否會出現更多競爭者

A:(1)資金雄厚且技術具有創新性的初創競爭者數不勝數,競爭始終存在。

(2)公司的核心價值主張是為客户提供成本最低的解決方案——這是一個全棧的問題,不僅僅是一個芯片的架構,還有對整個數據中心架構的優化,公司目前有 400 個加速庫提供支持,這是很驚人的規模;AI 的應用進一步放大了全棧佈局的重要性,包括網絡、分佈式計算引擎、計算架構在內的整個系統實際上是一個電腦,未來獲得最佳性能,就需要全棧式的解決方案,這就是加速計算的價值。

(3)利用率代表可以加速的應用程序數量,高利用率需要架構的多功能性來保持,為此公司採用通用 GPU 的策略。

(4)經驗,也就是對數據中心的專業知識,英偉達已經建立了 5 座自有數據中心,並幫助世界各地的客户建立數據中心,公司的架構將集成到世界所有云中。過去數據中心從產品交付到實際部署的運營時間是按照月衡量的,超級計算機甚至要到年的維度,公司將致力於將交付週期縮短到數週的維度,這會是公司專業度的體現。

綜上,高吞吐量、低成本、專業度是公司的價值主張和競爭力,當然,來自市場的挑戰始終很大。

Q:AI Enterprise 套件和其他軟件產品目前的定位和驅動力

A:軟件對於加速平台很重要,這些服務正逐步部署於 DGX Cloud,本質上是 AI 的操作系統,隨着 AI 和硬件架構發展,軟件的可用性和貨幣化潛力將繼續得到發揮,推理現在是加速計算的主要驅動力。

企業方面,大語言模型和其他細分場景都產生軟件堆棧的需求,英偉達 AI Foundation 和 AI Enterprise 能夠滿足企業客户新的需求,其中 AI Enterprise 是世界唯一的 GPU 加速堆棧,包括了 4000 多個軟件包,覆蓋 AI 運行引擎、端到端的運行引擎,為數據處理、模型訓練、模型優化、推理等流程提供服務,同時也能保證安全性。

工業方面,Omniverse 是工業中軟件定義和機器人應用的重要引擎,也將成為一個雲服務平台。

綜上,AI Foundation、AI Enterprise 和 Omniverse 將應用於所有與 DGX Cloud 有合作的雲中。

Q:對 InfiniBand 和以太網的技術競爭關係的看法

A:InfiniBand 本季度創紀錄,今年全年預計也將創季度。

InfiniBand 和以太網有各自的需求場景,前者是為 AI 數據中心設計的,對於 5 億美元的基礎建設,兩者之間的吞吐量差異可能是 15%-20%,對於 1 億美元,InfiniBand 接近於免費。

因此,如果數據中心是雲數據中心且有多個租户,以太網更加適合,對於 AI 雲,由於需要 AIGC 的工作負載,InfiniBand 會更加合適,這是一個細分的增量市場。

Q:後續回購計劃

A:公司目前仍有 70 億美元的回購額度,上季度沒有做回購,公司將視情況做調整。

Q:推理的市場空間是訓練的幾倍

A:首先,訓練是沒有盡頭的,只要有新的數據,就會有新的訓練,構建推薦系統、大預言模型、矢量數據庫的訓練需求將延續。

推理的部分是 API,API 可能是公司自己構建的,也可能來自 Adobe 等合作方,AI 推理的 API 再一週內呈現指數增長;

綜上,世界上有 1 萬億美元規模的數據中心,主要由 CPU 主導,但未來將轉向 AI 和加速計算,這是未來資本支出的重心。

Q:對於客户降低大模型每次查詢成本的需求,公司將提出什麼解決方案

A:一般而言,客户會建立一個大的語言模型,然後逐步拆分成不同規模的模型,這些細分模型在保留個性化的時候也有足夠的泛化能力,此外,大模型的優化也能為細分模型提供指引,同樣的,公司佈局包括 L4、L40、H100 等不同規模的產品,以匹配相應的需求。

此外,模型的輸入輸出需要大量的預處理和後處理工作,模型本身只佔推理流程的 25%,因此,對於多模態的推理工作,公司於合作方在所有云上推廣了 AI Enterprise 的相關產品,來提供基礎性的功能。

Q:面對計算複雜性、低延遲、大數據等要求,將做出什麼改變來進一步釋放網絡帶寬

A:這是一個很關鍵的環節,實際上大家的關注度都集中在加速器芯片,而忽略了軟件和網絡,這忽略了公司一直提到的全棧解決方案思路。

對於網絡,公司推出了 DOCA 的網絡堆棧,以及 Magnum IO 加速庫,這兩個產品並沒有得到投資者的關注,但實際上正是有了這些工具才能實現數以萬計的 GPU 連接,對 Mellanox 的收購案進一步提高了公司在高性能網絡方面的稟賦。

此外,NVLink 也是一個很重要的產品,在低延遲計算方面帶來很多幫助,公司以 NVLink 向外拓展,部署 Infinband、NIC、智能 NIC、BlueField 等產品,公司將在之後的 Computex 大會上做進一步説明。

總而言之,整個計算系統是複雜的,不能僅關注加速器芯片,需要軟件和網絡的全棧解決方案。

Q:DGX Cloud 的發展近況,及在實際運行中是否挖掘出更多的潛力

A:理想的狀態是 10% 來自 DGX Cloud,90% 來自 CSP Cloud。

一方面,DGX Cloud 的構建方式允許公司與 CSP 合作伙伴形成深入合作,以提供更高性能的服務,開發新的應用(比如與微軟合作,導入 Omniverse Cloud 等),創造更大的市場,雙方是互惠的。

另一方面,對於客户而言,這種模式提供了一個可以在各種雲工作的標準堆棧,更方便他們進行軟件的管理,這意味着更高的靈活性,這是多方共贏的。

<此處結束>

長橋海豚英偉達歷史文章回溯:

深度

2023 年 5 月 25 日財報點評《英偉達:AI 新時代,未來已來

2023 年 2 月 23 日電話會《業績觸底將回暖,AI 才是新焦點(英偉達 FY23Q4 電話會)

2023 年 2 月 23 日財報點評《熬過週期劫,又逢 ChatGPT,英偉達信仰迴歸

2022 年 6 月 6 日《美股巨震,蘋果、特斯拉、英偉達是被錯殺了嗎?

2022 年 2 月 28 日《英偉達:高增長不假,論性價比還是差點意思

2021 年 12 月 6 日《英偉達:估值不能只靠想象來撐

2021 年 9 月 16 日《英偉達(上):五年二十倍的芯片大牛是如何煉成的?

2021 年 9 月 28 日《英偉達(下):雙輪驅動不再,戴維斯雙殺來一波?

財報季

2022 年 11 月 18 日電話會《持續走高的存貨,在下季度能否被消化?(英偉達 FY2023Q3 電話會)

2022 年 11 月 18 日財報點評《英偉達:利潤打了三折,拐點何時才能來?

2022 年 8 月 25 日電話會《對 “閃崩” 的毛利率,管理層怎麼解釋?(英偉達 FY2023Q2 電話會)

2022 年 8 月 25 日財報點評《陷入泥潭的英偉達,要重走 2018 嗎?

2022 年 8 月 8 日業績預告點評《天雷滾滾,英偉達表演業績 “自由落體”

2022 年 5 月 26 日電話會《疫情疊加封鎖,遊戲下滑拖垮二季度業績(英偉達電話會)

2022 年 5 月 26 日財報點評《“疫情肥” 沒了,英偉達業績長相殘了

2022 年 2 月 17 日電話會《英偉達:多芯片推進,數據中心成公司焦點(電話會紀要)

2022 年 2 月 17 日財報點評《英偉達:超預期業績背後的隱憂 | 讀財報

2021 年 11 月 18 日電話會《英偉達怎麼構建元宇宙?管理層:聚焦 Omniverse(英偉達電話會)

2021 年 11 月 18 日財報點評《算力爆賺、元宇宙加持,英偉達要一直牛下去?

直播

2022 年 5 月 26 日《英偉達公司 (NVDA.US) 2023 財年第一季度業績電話會

2022 年 2 月 17 日《英偉達公司 (NVDA.US) 2021 年第四季度業績電話會

2021 年 11 月 18 日《英偉達公司 (NVDA.US) 2022 年第三季度業績電話會

本文的風險披露與聲明:海豚投研免責聲明及一般披露