有跡象表明，長達一年的 GPU“短缺” 問題正在緩解。
據 The Information 週五報道，超過六家使用 AI 芯片的公司表示，從雲提供商那裏租用英偉達最先進的芯片（H100）變得相對容易。因此，一些在早期瘋狂搶購 GPU 的買家，現在正尋求出售部分存貨。因為如果不使用，會帶來非常昂貴的持有成本。
與此同時，現在的 GPU 買家也在減少訂單，並對租用芯片的價格更為挑剔。
VMind AI 的首席執行官 Miguel Solano 説：“三個月前，你無法從谷歌雲那裏獲得 H100，而現在你可以了。” VMind AI 是一家幫助大模型公司降低計算成本、提高芯片效率的企業。
一些因素可能導致需求減少。據知情人士透露，亞馬遜推出了一項新的服務，允許客户一次性按天或周安排 GPU 租賃時間。而在以前，客户只能以較長的合同期限租用 GPU，或按需租用。谷歌的一位發言人則表示，公司能夠 “滿足幾乎所有客户需求，並不斷提供新的容量。”
此外，由於對芯片的使用更加熟悉，一些企業也可能會降低它們對實際需要多少 GPU 的預期。據一位 GPU 租賃公司的員工稱，他們可能感受到更大的壓力，需要確保他們的業務在經濟上可行。
這一切都與去年形成鮮明對比，當時初創公司和投資者正想方設法獲得英偉達的 GPU。
專注於 AI 初創公司的風投機構 Conviction 的創始人 Sarah Guo 表示：“當時有一種恐慌和稀缺感。在 2023 年年中，大模型圈都在熱議一個詞——‘GPU 貧民’（GPU Poor）。”
當然，並非所有人都解決了 GPU“短缺” 問題，像 OpenAI 這樣訓練大模型的公司，仍在努力獲得足夠多的 AI 芯片。
在本週三在財報會上，英偉達 CEO 黃仁勳表示，最近幾個季度面臨供應限制的問題正在 “改善”。但他在最新的採訪中提到，今年甚至到明年，GPU 都會供不應求。
值得一提的是，英偉達競爭對手英特爾的 CEO Pat Gelsinger 在週三表示，雖然他沒有感覺到 AI 芯片的需求有任何放緩，但他預計公司對在 AI 芯片上的投入會更加謹慎。
Gelsinger 説：
<blockquote>
“你不能把數百億美元投入到這些大型數據中心，卻不開始建立支持這些數據中心的經濟模型。”
</blockquote>

英偉達

超過六家使用 AI 芯片的公司表示，從雲提供商那裏租用英偉達最先進的芯片（H100）變得相對容易。

GPU“短缺” 開始緩解，一些早期搶購的買家開始拋售 “高價存貨”