Llama-3 公佈基礎訓練設施，使用 49000 個 H100

Llama-3 公佈基礎訓練設施，使用 49000 個 H100。Meta 在官網公佈了兩個全新的 24K H100 GPU 集羣，用於訓練大模型 Llama-3。預計到 2024 年底，Meta 將擁有 600,000 個 H100 的算力。Meta 作為全球市值最高的科技公司之一，致力於構建通用人工智能。Meta 每天處理數百萬億次 AI 模型的請求，需要高效、靈活的網絡來保證數據中心的安全和穩定運行。