<p><strong>阿里巴巴集团</strong>（NYSE:BABA）推出了一种新的计算池系统，名为 Aegaeon，该系统显著减少了对 <strong>英伟达</strong>（NASDAQ:NVDA）GPU 的依赖，降低幅度达到 82%。</p>
<h2><strong>三个月的测试</strong></h2>
<p>根据本周在韩国首尔举行的第 31 届操作系统原理研讨会（SOSP）上发布的一篇研究论文，这项创新在阿里巴巴云的模型市场上进行了超过三个月的测试。</p>
<p>Aegaeon 系统成功地将所需的英伟达 H20 GPU 数量从 1,192 减少到仅 213 个，以支持高达 720 亿参数的模型。</p>
<p>研究人员在论文中表示：&#34;Aegaeon 是首个揭示市场上并发 LLM 工作负载所带来的过高成本的研究。&#34;</p>
<p>来自 <strong>北京大学</strong> 和阿里巴巴云的研究人员强调了并发大型语言模型工作负载所带来的高成本。</p>
<h2><strong>一个 GPU 支持多个模型</strong></h2>
<p>阿里巴巴云，作为总部位于杭州的阿里巴巴的人工智能和云服务部门，旨在通过整合 GPU 资源来提高效率，使单个 GPU 能够支持多个模型。</p>
<p>该系统解决了资源低效的问题，因为之前在阿里巴巴云的市场中，17.7% 的 GPU 仅用于处理 1.35% 的请求。</p>
<p>像阿里巴巴云和 <strong>字节跳动</strong> 的火山引擎这样的云服务提供商同时管理数千个 AI 模型，这往往导致效率低下。Aegaeon 系统旨在通过减少所需的 GPU 数量来优化这一过程。</p>
<h2><strong>对英伟达在中国存在的担忧加剧</strong></h2>
<p>这一发展是在对英伟达在中国存在的担忧加剧的背景下发生的。最近，中国对英伟达的 H20 芯片提出了安全担忧，特别是关于潜在的后门风险。作为与英伟达达成协议的一部分，特朗普政府与该公司达成了一项 15% 的收入分成协议，涉及其对中国的芯片销售。</p>
<p>英伟达首席执行官 <strong>黄仁勋</strong> 表示，英伟达在中国的市场份额已从 95% 骤降至零。他对美国政策对英伟达在中国市场存在的影响表示担忧。</p>
<p>尽管面临这些挑战，英伟达已在财务上为潜在的升级做好了防护，因为其指导假设来自中国的收入为零，黄仁勋表示。</p>
<ul>
<li><strong>埃隆·马斯克表示，维持火星殖民地需要 10 万人和 100 万吨货物，重申星际飞船的重要性：‘将人类送上火星’</strong></li>
</ul>
<p><em>图片来源：Shutterstock</em></p>

阿里巴巴

阿里巴巴-W

2 倍做多阿里巴巴 ETF - KraneShares

BABO

2 倍做多 BABA ETF - GraniteShares

<p>阿里云推出了 Aegaeon，这是一种新的计算池系统，可以将 AI 模型对 Nvidia GPU 的使用减少 82%。经过三个月的测试，它将所需的 Nvidia H20 GPU 数量从 1,192 个减少到 213 个，适用于参数高达 720 亿的模型。这项创新旨在通过允许单个 GPU 支持多个模型来提高效率，从而解决资源使用不当的问题。该开发是在对 Nvidia 在中国的市场存在及美国政策对其市场份额影响的担忧中进行的</p>

<p><strong>Alibaba Group Holding</strong> (NYSE:BABA) has introduced a new computing pooling system called Aegaeon, which dramatically reduces the reliance on <strong>Nvidia</strong> (NASDAQ:NVDA) GPUs by 82% for AI models.</p>
<div class="lb-trans"><p><strong>阿里巴巴集团</strong>（NYSE:BABA）推出了一种新的计算池系统，名为 Aegaeon，该系统显著减少了对 <strong>英伟达</strong>（NASDAQ:NVDA）GPU 的依赖，降低幅度达到 82%。</p>
</div><h2><strong>Three Months In Testing</strong></h2>
<div class="lb-trans"><h2><strong>三个月的测试</strong></h2>
</div><p>This innovation was tested in Alibaba Cloud's model marketplace for over three months, according to a research paper presented this week at the 31st Symposium on Operating Systems Principles (SOSP) in Seoul, South Korea.</p>
<div class="lb-trans"><p>根据本周在韩国首尔举行的第 31 届操作系统原理研讨会（SOSP）上发布的一篇研究论文，这项创新在阿里巴巴云的模型市场上进行了超过三个月的测试。</p>
</div><p>The Aegaeon system has successfully decreased the number of Nvidia H20 GPUs required from 1,192 to just 213 for serving models with up to 72 billion parameters.</p>
<div class="lb-trans"><p>Aegaeon 系统成功地将所需的英伟达 H20 GPU 数量从 1,192 减少到仅 213 个，以支持高达 720 亿参数的模型。</p>
</div><p>&#34;Aegaeon is the first work to reveal the excessive costs associated with serving concurrent LLM workloads on the market,&#34; the researchers stated in the paper.</p>
<div class="lb-trans"><p>研究人员在论文中表示：&#34;Aegaeon 是首个揭示市场上并发 LLM 工作负载所带来的过高成本的研究。&#34;</p>
</div><p>Researchers from <strong>Peking University</strong> and Alibaba Cloud emphasized the high costs associated with serving concurrent large language model workloads.</p>
<div class="lb-trans"><p>来自 <strong>北京大学</strong> 和阿里巴巴云的研究人员强调了并发大型语言模型工作负载所带来的高成本。</p>
</div><h2><strong>One GPU For Multiple Models</strong></h2>
<div class="lb-trans"><h2><strong>一个 GPU 支持多个模型</strong></h2>
</div><p>Alibaba Cloud, the AI and cloud services division of the Hangzhou-based Alibaba, aims to boost efficiency by pooling GPU resources, allowing a single GPU to support multiple models.</p>
<div class="lb-trans"><p>阿里巴巴云，作为总部位于杭州的阿里巴巴的人工智能和云服务部门，旨在通过整合 GPU 资源来提高效率，使单个 GPU 能够支持多个模型。</p>
</div><p>The system addresses resource inefficiency, as previously, 17.7% of GPUs were allocated to serve only 1.35% of requests in Alibaba Cloud's marketplace.</p>
<div class="lb-trans"><p>该系统解决了资源低效的问题，因为之前在阿里巴巴云的市场中，17.7% 的 GPU 仅用于处理 1.35% 的请求。</p>
</div><p>Cloud service providers like Alibaba Cloud and <strong>ByteDance</strong>‘s Volcano Engine manage thousands of AI models simultaneously, often leading to inefficiencies. The Aegaeon system seeks to optimize this process by reducing the number of GPUs needed.</p>
<div class="lb-trans"><p>像阿里巴巴云和 <strong>字节跳动</strong> 的火山引擎这样的云服务提供商同时管理数千个 AI 模型，这往往导致效率低下。Aegaeon 系统旨在通过减少所需的 GPU 数量来优化这一过程。</p>
</div><h2><strong>Growing Concerns Over Nvidia's China Presence</strong></h2>
<div class="lb-trans"><h2><strong>对英伟达在中国存在的担忧加剧</strong></h2>
</div><p>This development comes amid growing concerns over Nvidia’s presence in China. Recently, China raised security concerns about Nvidia’s H20 chips, especially regarding potential backdoor risks. As part of its deal with Nvidia, the Trump administration has struck an agreement for a 15% revenue share from the company's chip sales to China.</p>
<div class="lb-trans"><p>这一发展是在对英伟达在中国存在的担忧加剧的背景下发生的。最近，中国对英伟达的 H20 芯片提出了安全担忧，特别是关于潜在的后门风险。作为与英伟达达成协议的一部分，特朗普政府与该公司达成了一项 15% 的收入分成协议，涉及其对中国的芯片销售。</p>
</div><p>Nvidia CEO <strong>Jensen Huang</strong> stated that Nvidia’s market share in China has plummeted from 95% to zero. He expressed concerns over the impact of U.S. policies on Nvidia’s market presence in China.</p>
<div class="lb-trans"><p>英伟达首席执行官 <strong>黄仁勋</strong> 表示，英伟达在中国的市场份额已从 95% 骤降至零。他对美国政策对英伟达在中国市场存在的影响表示担忧。</p>
</div><p>Despite these challenges, Nvidia has financially insulated itself from potential escalations, as its guidance assumes zero revenue from China, according to Huang.</p>
<div class="lb-trans"><p>尽管面临这些挑战，英伟达已在财务上为潜在的升级做好了防护，因为其指导假设来自中国的收入为零，黄仁勋表示。</p>
</div><ul>
<li><strong>Elon Musk Says 100K People, 1 Million Tons Of Cargo Needed To Sustain Mars Colonies, Reiterates Starship’s Importance: ‘Will Land Humans On Mars’</strong></li>
</ul>
<div class="lb-trans"><ul>
<li><strong>埃隆·马斯克表示，维持火星殖民地需要 10 万人和 100 万吨货物，重申星际飞船的重要性：‘将人类送上火星’</strong></li>
</ul>
</div><p><em>Photo courtesy: Shutterstock</em></p>
<div class="lb-trans"><p><em>图片来源：Shutterstock</em></p>
</div>

Alibaba Cloud's New System Cuts Nvidia GPU Usage By 82%, Amid Trump's Flip Flop On AI Chip Ban On China

- 阿里巴巴推出新计算池系统 Aegaeon，减少对 Nvidia GPU 的依赖 82%。
- 该系统经过三个月测试，显著降低了所需 GPU 数量，从 1,192 降至 213。
- 此举旨在提高资源利用效率，解决云服务中的资源浪费问题。

阿里云的新系统将 Nvidia GPU 的使用量减少了 82%，正值特朗普在对华 AI 芯片禁令上的反复态度之际