調查:大量用户正計劃由英偉達平台轉向 AMD MI300X!

長灣資訊
2024.03.12 15:45
portai
我是 PortAI,我可以總結文章信息。

來源芯智訊。3 月 10 日消息,根據 TensorWave 最近公佈的一項調查數據顯示,大量人工智能專業人士正計劃從英偉達的 AI GPU 平台轉向採用 AMD 最新的 Instinct MI300X GPU。TensorWave 聯合創始人 Jeff Tatarchuk 近日通過 X 平台透露,他們進行了一項獨立調查,涵蓋 82 名工程師和人工智能專業人士,其中約有 50% 的受訪者表示他們對 AMD Instinct MI300X GPU 充滿信心,因為相比於英偉達的 H100 系列產品,MI300X 不僅擁有更出色的性價比,而且供應充足,避免了遇到貨源緊張的問題。Jeff 還提到,TensorWave 公司也將採用 MI300X 人工智能加速器。顯然,這對於 AMD 來説無疑是個好消息。因為以往其 Instinct 系列產品相比英偉達的競品,不僅性能要低一些,市場認可度也相對較低,這也導致其在 AI 芯片市場的份額遠低於英偉達。但是,AMD 去年推出的最新的 Instinct MI300X GPU 在性能上成功超越了英偉達明星產品 H100。

來源芯智訊。

3 月 10 日消息,根據 TensorWave 最近公佈的一項調查數據顯示,大量人工智能專業人士正計劃從英偉達的 AI GPU 平台轉向採用 AMD 最新的 Instinct MI300X GPU。

TensorWave 聯合創始人 Jeff Tatarchuk 近日通過 X 平台透露,他們進行了一項獨立調查,涵蓋 82 名工程師和人工智能專業人士,其中約有 50% 的受訪者表示他們對 AMD Instinct MI300X GPU 充滿信心,因為相比於英偉達的 H100 系列產品,MI300X 不僅擁有更出色的性價比,而且供應充足,避免了遇到貨源緊張的問題。Jeff 還提到,TensorWave 公司也將採用 MI300X 人工智能加速器。

顯然,這對於 AMD 來説無疑是個好消息。因為以往其 Instinct 系列產品相比英偉達的競品,不僅性能要低一些,市場認可度也相對較低,這也導致其在 AI 芯片市場的份額遠低於英偉達。但是,AMD 去年推出的最新的 Instinct MI300X GPU 在性能上成功超越了英偉達明星產品 H100。

根據資料顯示,AMD Instinct MI300X 內部集成了 12 個 5/6nm 工藝的小芯片(HMB 和 I/O 為 6nm),擁有 1530 億個晶體管。在內核設計上,採用了相比 MI250X 更簡單的設計,放棄了 APU 的 24 個 Zen4 內核和 I/O 芯片,取而代之的是 CDNA 3 GPU 內核架構,擁有 304 個計算單元(每個 GPU 小芯片擁有 38 個 CU),19456 個流處理器。在內存帶寬方面,MI300X 也配備了更大的 192GB HBM3 內存(8 個 HBM3 封裝,每個堆棧為 12 Hi)相比 MI250X 提高了 50%,帶來高達 5.3TB/s 的帶寬和 896GB/s 的 Infinity Fabric 帶寬。相比之下,英偉達即將推出的 H200 AI 加速器也只有 141 GB 的容量。

具體來説,與英偉達 H100 相比,MI300X 擁有以下優勢:

內存容量高出 2.4 倍

內存帶寬高出 1.6 倍

FP8 性能 (TFLOPS) 高出 1.3 倍

FP16 性能 (TFLOPS) 高出 1.3 倍

在 1v1 對比測試中,性能方面可領先 H100 (Llama 2 70B) 最多 20%

在 1v1 對比測試中,性能方面可領先 H100 (FlashAttention 2) 最多 20%

在 8v8 服務器對比測試中,性能方面可領先 H100 (Llama 2 70B) 最多 40%

在 8v8 服務器對比測試中,性能方面可領先 H100 (Bloom 176B) 最多 60%

從參數上來看,AMD Instinct MI300X 在性能上取得了巨大飛躍,相比英偉達目前的主力產品 H100 擁有一定的優勢,再加上英偉達目前仍然存在供應不足以及價格高昂等方面的問題,這也使得 AMD 有了更多的機會。

AMD CEO 蘇姿豐在 1 月 30 日的電話會議上預測稱,2024 年 AMD 的 AI 芯片營收將達 35 億美元,高於先前預測的 20 億美元。另外,去年四季度的 AI 芯片營收也超越此前預測的 4 億美元,但她並未披露確切的數字。

不過,需要指出的是,目前英偉達在 AI 芯片市場佔據了超過了 90% 的市場份額,居於壟斷地位,這也使得 AMD 在與其競爭過程中可能會受到其市場地位的壓制。

上個月推出的面向雲端大模型的全新推理芯片與英偉達(NVIDIA)競爭的美國人工智能初創公司——Groq 的 CEO Jonathan Ross 近日在接受《華爾街日報》採訪時就控訴英偉達阻礙公平競爭。Jonathan Ross 表示,曾有其他芯片供應商客户對其透露,如果英偉達問起這件事,他們會否認與 Groq 談過話,因為怕遭到報復。

“我們見過的很多人都説,倘若雙方見面的消息傳到英偉達耳裏,他們會打死不認。”“問題在於,你必須提前一年付款給英偉達,但產品交期或許是一年、或許要更久。他們會説,‘哎呀,你跟別人買了,那我猜交貨時間可能要晚點了。’” Jonathan Ross 説道。

雖然英偉達否認此事,隨後 AMD 前資深副總裁兼圖形業務部總經理 Scott Herkleman 也指控英偉達的商業行為和壟斷集團卡特爾(Cartel)行為相似,並稱其為 “GPU 卡特爾”,暗示英偉達在 AI 芯片市場上的霸主地位或許不是偶然。Herkleman 認為,英偉達限制 GPU 供應,通過讓客户害怕使用競爭對手 GPU,以維持產業主導地位。

編輯:芯智訊 - 浪客劍