憑藉發佈的新品，AMD 正式向英偉達的 AI 芯片王者地位發起挑戰。
美東時間 6 月 13 日週二，AMD 舉行了新品發佈會，其中最重磅的新品當屬性用於訓練大模型的 ADM 最先進 GPU Instinct MI300。
AMD CEO 蘇姿豐介紹，生成式 AI 和大語言模型（LLM）需要電腦的算力和內存大幅提高。她預計，今年，數據中心 AI 加速器的市場將達到 300 億美元左右，到 2027 年將超過 1500 億美元，複合年增長率超過 50%。
蘇姿豐演示介紹，AMD 的 Instinct MI300A 號稱全球首款針對 AI 和高性能計算（HPC）的加速處理器（APU）加速器。在 13 個小芯片中遍佈 1460 億個晶體管。
它採用 CDNA 3 GPU 架構和 24 個 Zen 4 CPU 內核，配置 128GB 的 HBM3 內存。相比前代 MI250，MI300 的性能提高八倍，效率提高五倍。AMD 在發佈會稍早介紹，新的 Zen 4c 內核比標準的 Zen 4 內核密度更高，比標準 Zen 4 的內核小 35%，同時保持 100% 的軟件兼容性。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/a9acb779-60f6-4693-99f9-ed2e4339b513.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="501" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/a9acb779-60f6-4693-99f9-ed2e4339b513.png"/>
AMD 推出一款 GPU 專用的 MI300，即 MI300X，該芯片是針對 LLM 的優化版，擁有 192GB 的 HBM3 內存、5.2TB/秒的帶寬和 896GB/秒的 Infinity Fabric 帶寬。AMD 將 1530 億個晶體管集成在共 12 個 5 納米的小芯片中。
AMD 稱，MI300X 提供的 HBM 密度最高是英偉達 AI 芯片 H100 的 2.4 倍，其 HBM 帶寬最高是 H100 的 1.6 倍。這意味着，AMD 的芯片可以運行比英偉達芯片更大的模型。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/3dd647ec-a2aa-4e99-81a8-847e70788173.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="405" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/3dd647ec-a2aa-4e99-81a8-847e70788173.png"/>
Lisa Su 介紹，MI300X 可以支持 400 億個參數的 Hugging Face AI 模型運行，並演示了讓這個 LLM 寫一首關於舊金山的詩。這是全球首次在單個 GPU 上運行這麼大的模型。單個 MI300X 可以運行一個參數多達 800 億的模型。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/e2af8b72-bc6b-41e3-ac39-66a608184f4a.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="453" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/e2af8b72-bc6b-41e3-ac39-66a608184f4a.png"/>
LLM 需要的 GPU 更少，給開發者帶來的直接好處就是，可以節約成本。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/b20cb85f-38c5-48f9-bd43-4dbd961894c2.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="450" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/b20cb85f-38c5-48f9-bd43-4dbd961894c2.png"/>
AMD 還發布了 AMD Instinct 平台，它擁有八個 MI300X，採用行業標準 OCP 設計，提供總計 1.5TB 的 HBM3 內存。
蘇姿豐稱，適用於 CPU 和 GPU 的版本 MI300A 現在就已出樣，MI300X 和八個 GPU 的 Instinct 平台將在今年第三季度出樣，第四季度正式推出。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/9755ae5b-7aee-4dda-95da-95879954125c.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="407" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/9755ae5b-7aee-4dda-95da-95879954125c.png"/>
<h2>亞馬遜、微軟、Meta 已經或將要運用 AMD 新品</h2>
除了 AI 芯片，AMD 此次發佈會還介紹了第四代 EPYC（霄龍）處理器，特別是在全球可用的雲實例方面的進展。
AMD 第四代 EPYC（霄龍）在雲工作負載的性能是英特爾競品處理器的 1.8 倍，在企業工作負載中的處理速度是英特爾競品的 1.9 倍。
AMD 稱，第四代 EPYC（霄龍）啓用新的 Zen 4c 內核，比英特爾 Xeon 8490H 的效率高 1.9 倍。由於絕大多數 AI 在 CPU 上運行，AMD 在 CPU AI 領域具有絕對的領先優勢。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/30fa6d18-ab8f-40ea-92e6-fcb1c24fdce8.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="407" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/30fa6d18-ab8f-40ea-92e6-fcb1c24fdce8.png"/>
亞馬遜週二宣佈，在用 AWS Nitro 和第四代 EPYC 處理器打造新的實例。亞馬遜雲的 EC2 M7a 實例現已提供預覽版，性能比 M6a 實例高 50%。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/1a36bb5a-f4fc-47dd-a832-5db1def22992.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="525" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/1a36bb5a-f4fc-47dd-a832-5db1def22992.png"/>
AMD 也將在內部工作中運用 EC2 M7a 實例，包括芯片設計的 EDA 軟件。AMD 還宣佈，今年 7 月，甲骨文將推出 Genoa E5 實例。
AMD 發佈的 EPYC Bergamo 處理器是業界首款 x86 原生 CPU，有 128 個內核，每個插槽 256 個線程。這意味着一個普通的 2U 4 節點平台將有 2048 個線程。
Bergamo 比前代 Milan 的性能高 2.5 倍，現在就可以向 AMD 的雲客户發貨。
Meta 的公司代表介紹，Meta 在基礎設施中使用 EPYC 處理器。Meta 也對基於 AMD 的處理器設計開源。Meta 方面稱，計劃為其基礎設施使用雲處理器 Bergamo，還要將 Bergamo 用於其存儲平台。
AMD 同時推出本週二上市的 CPU Genoa-X。它將增加超過 1GB 的 96 核 L3 緩存。它共有四個 SKU，16 到 96 個內核。因為 SP5 插槽兼容，所以它可以與現有的 EPYC 平台一起使用。
微軟的公司代表和 AMD 一道展示了微軟雲 Azure HPC 的性能，在 EPYC 處理器的幫助下，Azure 四年內的性能提升四倍。
Azure 宣佈，搭載 Genoa-X 的 HBv4 和 HX 系列實例、以及新的 HBv3 實例全面上市。Azure 還稱，性能最高可較市面基準提升 5.7 倍。
AMD 此前通過收購 Pensando 獲得 DPU 技術。此次 AMD 稱，其 P4 DPU 架構是世界上最智能的 DPU，它能減少數據中心的網絡開銷，並提高了服務器的可管理性。AMD 的 Pensando SmartNICs 是這種新數據中心架構不可或缺的組成部分。
AMD 還提到有自己的 AI 芯片軟件，名為 ROCm。AMD 總裁 Victor Peng 稱，在構建強大的軟件堆棧方面，AMD 取得了真正的巨大進步，ROCm 軟件棧可與模型、庫、框架和工具的開放生態系統配合使用。

微軟

英偉達

MI300X 的 HBM 密度高達英偉達 AI 芯片 H100 的 2.4 倍，HBM 帶寬高達 H100 的 1.6 倍，可以運行的模型比 H100 的更大。AMD 發佈的其他新品已吸引硅谷巨頭：亞馬遜雲運用四代 EPYC 處理器打造實例；微軟 Azure 推出搭載 Genoa-X CPU 的新實例；Meta 計劃使用 AMD 的新雲芯片 Bergamo。

英偉達 AI 芯片勁敵來了！AMD 推出 MI300X，可運行多達 800 億參數模型