Llama-3 公布基础训练设施，使用 49000 个 H100

Llama-3 公布基础训练设施，使用 49000 个 H100。Meta 在官网公布了两个全新的 24K H100 GPU 集群，用于训练大模型 Llama-3。预计到 2024 年底，Meta 将拥有 600,000 个 H100 的算力。Meta 作为全球市值最高的科技公司之一，致力于构建通用人工智能。Meta 每天处理数百万亿次 AI 模型的请求，需要高效、灵活的网络来保证数据中心的安全和稳定运行。