<div id="readability-page-1">DeepSeek 为了能高效利用 GPU 进行了诸多创新，DeepSeek 在 25 日也就是「开源周」的第二天开源了 DeepEP 通信库。DeepSeek 表示，这是第一个用于 MoE（专家）模型训练和推理的开源 EP 通信库，有望再度降低计算消耗。。一财网报导，DeepSeek 表示，DeepEP 的特点是高效、优化的全员沟通；节点内和节点间均支援 NVLink 和 RDMA（远端直接记忆体存取，一种通信技术）；用于训练和推理预填充的高输送量内核；用于推理解码的低延迟内核；原生 FP8 调度支持；灵活的 GPU（图形处理器）资源控制，实现计算与通信重叠。EP 即 expert parallelism（专家并行），是一种在大规模分散式 AI 模型训练中使用的技术，能用于提升模型并行处理能力和训练效率。DeepSeek 在代码托管网站 GitHub 上解释，对于延迟敏感的推理解码任务，DeepEP 包含有一组使用纯 RDMA 的低延迟内核，可以用于将延迟最小化，DeepEP 还引入一种通信与计算重叠的方法，这种方法可以不占用 SM（流处理器）资源。简而言之，DeepEP 也是用于提升 GPU 利用效率的关键技术之一。性能可比肩 OpenAI o1 的 DeepSeek-R1 是基于 DeepSeek-V3 训练出来的模型，DeepSeek-V3 此前就以不大规模使用最先进的英伟达 GPU、低训练预算著称。为了在已有的 GPU 上训练大模型，DeepSeek 进行了诸多创新，以高效利用 GPU 算力。线上询问开源 DeepEP 通信库的影响询问 DeepSeek，它的回答是，DeepEP 能显著提升 MoE 模型的训练和推理效率，显著降低计算资源消耗，开源 DeepEP 有助于降低 AI 技术的开发成本，且有助于减少重发开发。DeepSeek 此前宣布，本周会陆续开源 5 个代码库。加上 2 月 24 日开源的代码库 FlashMLA，DeepSeek 已开源了 2 个代码库，接下来还有 3 个代码库待开源。DeepSeek 此前在公告中表示，DeepSeek 是探索 AGI（通用人工智慧）的小公司，作为开源社区的一部分，每分享一行代码，都会成为加速 AI 行业发展的集体动力。<figure><img src="https://imageproxy.pbkrs.com/https://pgw.udn.com.tw/gw/photo.php/query-ZXhwPTM2MDAmZXhwPTM2MDAmZnc9MTA1MCZzaD0wJnNsPVcmc3c9MCZ1PWh0dHBzOi8vdWMudWRuLmNvbS50dy9waG90by8yMDI1LzAyLzI1L3JlYWx0aW1lLzMxNTU3OTU3LmpwZyZ4PTAmeT0w?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1048" height="647" original-src="https://imageproxy.pbkrs.com/https://pgw.udn.com.tw/gw/photo.php/query-ZXhwPTM2MDAmZXhwPTM2MDAmZnc9MTA1MCZzaD0wJnNsPVcmc3c9MCZ1PWh0dHBzOi8vdWMudWRuLmNvbS50dy9waG90by8yMDI1LzAyLzI1L3JlYWx0aW1lLzMxNTU3OTU3LmpwZyZ4PTAmeT0w"/><figcaption>DeepSeek 陆续开源 5 个代码库。路透</figcaption></figure></div>

深度求索

DeepSeek 于 25 日开源了 DeepEP 通信库，这是首个用于 MoE 模型训练和推理的开源库，旨在降低计算消耗。DeepEP 支持 NVLink 和 RDMA，具备高效的全员沟通和低延迟内核，能够提升 GPU 利用效率。该库的推出预计将显著提高 MoE 模型的训练和推理效率，降低 AI 技术开发成本。

DeepSeek 开源第二弹：EP 通信库来了，有望再次降低计算消耗