<p>亚特兰大 – 云原生计算基金会的新认证 Kubernetes AI 合规计划呼吁制定一套标准，以确保 AI 工作负载的可移植性、互操作性和可靠性。然而，官员们承认，在实现这一愿景之前，市场仍需成熟。</p>
<p>该计划以现有的认证 Kubernetes 合规计划为模型，于六个月前在 KubeCon + CloudNativeCon 日本会议上启动了测试版，并在本周的 KubeCon + CloudNativeCon 北美会议 上达到了 1.0 版本，首次发布了一批认证供应商参与者。当天的主题演讲中展示的幻灯片列出了初始认证产品的供应商和项目的主要贡献者，包括 Akamai、阿里云、AWS、博通、CoreWeave、DaoCloud、谷歌云、Kubermatic、微软 Azure、英伟达、甲骨文、红帽和 SUSE。</p>
<p>云原生计算基金会 (CNCF) 的官员在 KubeCon 上提到，认证 Kubernetes 合规计划的成功，始于 10 个成员并扩展到超过 100 个成员，激励了他们对 Kubernetes AI 合规计划的雄心。</p>
<p>CNCF 首席技术官 Chris Aniszczyk 在主题演讲中表示：“你不能去任何主要的云服务或私有云选项，而没有 Kubernetes 的合规性、稳定性和兼容性……这基本上将整个行业聚集在一起。” 他补充道：“现在，AI 正在蓬勃发展。我们能做些什么来确保社区为 [其他] 工作负载带来的稳定性和全球合作，我们也能为 AI 做到？”</p>
<p>根据其 公开文档，该项目的主要目标是 “简化 Kubernetes 上的 AI/ML 并加速采用；保证 AI 工作负载的互操作性和可移植性 [以及] 为行业标准基础上的 AI 工具促进生态系统增长。”</p>
<p>CNCF 和 Linux 基金会的领导者在周二的新闻发布会上阐述了云原生基础设施与生成性 AI 工作负载交付之间的融合，以及他们现在看到的令人振奋的机会。</p>
<p>Linux 基金会执行董事 Jim Zemlin 在新闻发布会的开场发言中表示：“这不仅是 CNCF 的机会，也是整个 Linux 基金会的机会，让我们迎来 AI 的下一个 ‘Linux 时刻’，在中立的基金会中拥有一整套开源软件，帮助进行 [模型] 预训练、训练、后训练、推理和代理。”</p>
<p>Zemlin 提到了一些开源项目，这些项目已经出现以协调 AI 工作负载，如 vLLM、AIBrix 和新兴的 “PARK” 堆栈，由 PyTorch、AI、Ray 和 Kubernetes 组成。他预测，在接下来的三到五年内，将会出现一个标准的开源框架，用于 AI 代理。</p>
<p>Zemlin 表示，在接下来的六个月内，开源社区将就标准 AI 代理通信协议达成共识，例如谷歌的 Agent2Agent，该协议于 6 月捐赠给 Linux 基金会。</p>
<p>CNCF 在 KubeCon + CloudNativeCon 北美会议期间宣传了其项目与 AI 工作负载日益增长的联系。</p>
<h2>英伟达的未来？</h2>
<p>在新闻发布会上，CNCF 和 Linux 基金会的领导者回答了多位与会者提出的尖锐问题，他们询问为什么 AI 巨头英伟达在新合规计划的启动中没有更显著的存在。</p>
<p>HyperFrame Research 的首席执行官 Steven Dickens 表示：“显然，英伟达是这一切的重心。你们有什么计划将他们引入合规计划，并确保技术接口点，如谷歌，能够存在？”</p>
<p>Aniszczyk 回答说，英伟达的代表已参与 AI 合规计划的会议，但它没有类似于该计划认证的 Kubernetes 即服务产品。英伟达自 2018 年以来一直是 CNCF 的成员，并且已经 贡献 了如 Kubernetes 动态资源分配 等项目的支持，而这些支持是认证 Kubernetes AI 合规计划的首批强制要求之一。</p>
<p>尽管如此，CNCF 领导者提到的作为 AI 推理工作负载新兴开源标准的项目，包括 vLLM 和 AIBrix，必须与 英伟达的专有计算统一设备架构 (CUDA) 并行计算框架集成。这是为了使这些系统能够与英伟达的 GPU 硬件协同工作，而该公司在这一市场中占据主导地位。</p>
<p>过去一年中，谷歌的 TPU 等 GPU 替代品获得了一些关注，包括 vLLM 与 TPU 的近期集成 以及本周宣布的与 Vast Data 的 云合作伙伴关系，而英伟达是该公司的投资者。然而，英伟达已实现 5 万亿美元的 市场估值，并与主要云服务提供商和 AI 公司，包括 AWS 和 OpenAI，达成了数十亿美元的供应 GPU 的交易。</p>
<p>Nvidia 的 GPU 计算软件副总裁 Chris Lamb 在 2024 年 KubeCon + CloudNativeCon 上发表了主题演讲，而 Bob Wise 现在是 Nvidia DGX Cloud 的工程与运营副总裁，他在 2020 年至 2022 年期间代表 AWS 参加 CNCF 管理委员会。</p>
<p>但 Nvidia 总裁兼首席执行官黄仁勋，作为公司公众形象的代表，近年来一直是会议主题演讲的常客，却没有出现在任何主要的 CNCF 活动上，Dickens 反驳道。</p>
<p>他表示：“出席会议，一些工程师贡献一点代码，这些都很好，太棒了。Nvidia 是 AI 领域的主角。他们会在 KubeCon 上让黄仁勋穿着皮夹克登台吗？”</p>
<p>可能进一步混淆局势的是，Nvidia 最近对其捐赠给不受 CNCF 管辖的开源 Kubernetes 相关项目的组件变得更加公开具体，包括在 5 月捐赠给 Red Hat 的 llm-d。</p>
<p>Nvidia 本周在 KubeCon 上还宣传了其新的开源 Kubernetes API Grove，该项目并未捐赠给 CNCF。该项目 “定义了单节点和多节点 AI 推理工作负载的结构和生命周期，例如与 NVIDIA Dynamo 部署的工作负载，同时使其能够在基于 Kubernetes 的环境中高效扩展，” 根据公司的一篇博客文章。</p>
<h2>'Nvidia 经济' 的风险</h2>
<p>其他行业分析师在新闻发布会的与会者中询问，Linux 基金会和 CNCF 是否会采取行动打破 Nvidia 对 AI 市场的 “控制”，就像 Linux 曾经对抗微软的 Windows，CNCF 提供了强大的开源替代品一样。</p>
<blockquote>
<p>你们在做什么来确保 AI 计算的基本原语不被一家公司所拥有？ <strong>Stephen O'Grady</strong> RedMonk 首席分析师</p>
</blockquote>
<p>RedMonk 的首席分析师兼联合创始人 Stephen O'Grady 在新闻发布会的问答环节中表示：“我没有看到很多支持开源替代 CUDA 的举措。你们在做什么来确保 AI 计算的基本原语不被一家公司所拥有？”</p>
<p>对此，Zemlin 以 AWS 公有云主导早期的情况作了另一个类比。</p>
<p>他说：“如果你看看现在的市场份额，它相对分散——你有亚马逊、微软、阿里巴巴、甲骨文、谷歌——这更加平衡。每当你有像 AI 这样的技术革命时，情况会非常疯狂，然后事情会随着时间的推移自然多样化。”</p>
<p>另一位与会者在新闻发布会后接受采访时表示，他希望能出现强大的开源 CUDA 替代品。</p>
<p>RobustCloud 的首席顾问 Larry Carvalho 说：“如果 Nvidia 继续主导市场，就必须有一个替代品。我听说美国已经成为 Nvidia 经济，一家公司的市值达到 5 万亿美元——这对一家公司来说是巨大的重力。人们谈论数据重力。这是计算重力。”</p>
<p><em>Beth Pariseau 是 Informa TechTarget 的高级新闻撰稿人，是一位获得奖项的 IT 新闻记者，专注于 DevOps。有什么线索吗？</em> 给她发邮件 <em>或联系</em> @PariseauTT</p>

<p>CNCF 推出了认证 Kubernetes AI 一致性计划，以确保 AI 工作负载标准，但分析师对其成熟度表示质疑。该计划以 Kubernetes 一致性计划为模型，涵盖了 AWS 和 Google Cloud 等主要供应商。CNCF 旨在简化 Kubernetes 上的 AI/ML 并加速采用。尽管 Nvidia 在市场上占有重要地位，但其在该计划中的角色受到审查。CNCF 领导者预见到在未来几年内将出现一个标准的开源 AI 代理框架</p>

<p>ATLANTA – The Cloud Native Computing Foundation's new Certified Kubernetes AI Conformance Program calls for a set of standards to ensure portability, interoperability and reliability for AI workloads. However, officials acknowledged that the market must still mature before this vision is realized.</p>
<div class="lb-trans"><p>亚特兰大 – 云原生计算基金会的新认证 Kubernetes AI 合规计划呼吁制定一套标准，以确保 AI 工作负载的可移植性、互操作性和可靠性。然而，官员们承认，在实现这一愿景之前，市场仍需成熟。</p>
</div><p>The program, modeled on the existing Certified Kubernetes Conformance Program, was launched in beta six months ago at KubeCon + CloudNativeCon Japan, and reached a version 1.0 release with an initial set of certified vendor participants here this week at KubeCon + CloudNativeCon North America. The initial set of vendors with certified products and major contributors to the project, listed on a slide shown during the day-one keynote presentation, included Akamai, Alibaba Cloud, AWS, Broadcom, CoreWeave, DaoCloud, Google Cloud, Kubermatic, Microsoft Azure, Nvidia, Oracle, Red Hat and SUSE.</p>
<div class="lb-trans"><p>该计划以现有的认证 Kubernetes 合规计划为模型，于六个月前在 KubeCon + CloudNativeCon 日本会议上启动了测试版，并在本周的 KubeCon + CloudNativeCon 北美会议 上达到了 1.0 版本，首次发布了一批认证供应商参与者。当天的主题演讲中展示的幻灯片列出了初始认证产品的供应商和项目的主要贡献者，包括 Akamai、阿里云、AWS、博通、CoreWeave、DaoCloud、谷歌云、Kubermatic、微软 Azure、英伟达、甲骨文、红帽和 SUSE。</p>
</div><p>Cloud Native Computing Foundation (CNCF) officials at KubeCon cited the success of the Certified Kubernetes Conformance Program, which began with 10 members and has expanded to more than 100, in their ambitions for the Kubernetes AI Conformance Program.</p>
<div class="lb-trans"><p>云原生计算基金会 (CNCF) 的官员在 KubeCon 上提到，认证 Kubernetes 合规计划的成功，始于 10 个成员并扩展到超过 100 个成员，激励了他们对 Kubernetes AI 合规计划的雄心。</p>
</div><p>&#34;You can't go to any major cloud service or private cloud option and not have Kubernetes conformant, stable and compatible across these things. … It basically brought the whole industry together,&#34; said Chris Aniszczyk, CTO of CNCF, during the keynote. &#34;[Now,] AI is booming. What can we do to ensure that the stability and global cooperation that communities brought to [other] workloads, we can do for AI?&#34;</p>
<div class="lb-trans"><p>CNCF 首席技术官 Chris Aniszczyk 在主题演讲中表示：“你不能去任何主要的云服务或私有云选项，而没有 Kubernetes 的合规性、稳定性和兼容性……这基本上将整个行业聚集在一起。” 他补充道：“现在，AI 正在蓬勃发展。我们能做些什么来确保社区为 [其他] 工作负载带来的稳定性和全球合作，我们也能为 AI 做到？”</p>
</div><p>The project's primary goals, according to its public documentation, are to &#34;Simplify AI/ML on Kubernetes and accelerate adoption; guarantee interoperability and portability for AI workloads [and] enable ecosystem growth for AI tools on an industry-standard foundation.&#34;</p>
<div class="lb-trans"><p>根据其 公开文档，该项目的主要目标是 “简化 Kubernetes 上的 AI/ML 并加速采用；保证 AI 工作负载的互操作性和可移植性 [以及] 为行业标准基础上的 AI 工具促进生态系统增长。”</p>
</div><p>CNCF and Linux Foundation leaders expounded on the convergence between cloud-native infrastructure and the delivery of generative AI workloads and the heady opportunity they now see emerging during a press conference here Tuesday.</p>
<div class="lb-trans"><p>CNCF 和 Linux 基金会的领导者在周二的新闻发布会上阐述了云原生基础设施与生成性 AI 工作负载交付之间的融合，以及他们现在看到的令人振奋的机会。</p>
</div><p>&#34;It's not just an opportunity for CNCF, but throughout the Linux Foundation, to get us to the next 'Linux moment' in AI, where we have a full stack of open source software housed at neutral foundations that are helping in [model] pre-training, training, post-training, inference and agents,&#34; said Jim Zemlin, executive director at the Linux Foundation, during opening remarks at the press session.</p>
<div class="lb-trans"><p>Linux 基金会执行董事 Jim Zemlin 在新闻发布会的开场发言中表示：“这不仅是 CNCF 的机会，也是整个 Linux 基金会的机会，让我们迎来 AI 的下一个 ‘Linux 时刻’，在中立的基金会中拥有一整套开源软件，帮助进行 [模型] 预训练、训练、后训练、推理和代理。”</p>
</div><p>Citing open source projects that have emerged to orchestrate AI workloads such as vLLM, AIBrix and the emerging &#34;PARK&#34; stack comprised of PyTorch, AI, Ray and Kubernetes, Zemlin predicted that over the next three to five years, a standard open source framework will emerge for AI agents.</p>
<div class="lb-trans"><p>Zemlin 提到了一些开源项目，这些项目已经出现以协调 AI 工作负载，如 vLLM、AIBrix 和新兴的 “PARK” 堆栈，由 PyTorch、AI、Ray 和 Kubernetes 组成。他预测，在接下来的三到五年内，将会出现一个标准的开源框架，用于 AI 代理。</p>
</div><p>Over the next six months, Zemlin said, consensus will emerge in the open source community about standard AI agent communication protocols, such as Google's Agent2Agent, which was donated to the Linux Foundation in June.</p>
<div class="lb-trans"><p>Zemlin 表示，在接下来的六个月内，开源社区将就标准 AI 代理通信协议达成共识，例如谷歌的 Agent2Agent，该协议于 6 月捐赠给 Linux 基金会。</p>
</div><p>The CNCF touted its projects' growing connection to AI workloads during KubeCon + CloudNativeCon North America 2025.</p>
<div class="lb-trans"><p>CNCF 在 KubeCon + CloudNativeCon 北美会议期间宣传了其项目与 AI 工作负载日益增长的联系。</p>
</div><h2>Whither Nvidia?</h2>
<div class="lb-trans"><h2>英伟达的未来？</h2>
</div><p>During the press conference, CNCF and Linux Foundation leaders fielded pointed questions from multiple attendees who asked why AI titan Nvidia wasn't a more prominent presence at the launch of the new conformance program.</p>
<div class="lb-trans"><p>在新闻发布会上，CNCF 和 Linux 基金会的领导者回答了多位与会者提出的尖锐问题，他们询问为什么 AI 巨头英伟达在新合规计划的启动中没有更显著的存在。</p>
</div><p>&#34;Obviously, Nvidia is the center of gravity for all this,&#34; said Steven Dickens, CEO at HyperFrame Research. &#34;What's your plan on pulling them into the Conformance Program and making sure that the interface points in technology, such as Google, are there?&#34;</p>
<div class="lb-trans"><p>HyperFrame Research 的首席执行官 Steven Dickens 表示：“显然，英伟达是这一切的重心。你们有什么计划将他们引入合规计划，并确保技术接口点，如谷歌，能够存在？”</p>
</div><p>Aniszczyk answered that Nvidia reps have participated in AI Conformance Program meetings, but that it doesn't have a Kubernetes-as-a-Service product similar to those being certified by the program. Nvidia has been a CNCF member since 2018 and has contributed to projects such as Kubernetes dynamic resource allocation, support for which is among the first mandatory requirements of the Certified Kubernetes AI Conformance Program.</p>
<div class="lb-trans"><p>Aniszczyk 回答说，英伟达的代表已参与 AI 合规计划的会议，但它没有类似于该计划认证的 Kubernetes 即服务产品。英伟达自 2018 年以来一直是 CNCF 的成员，并且已经 贡献 了如 Kubernetes 动态资源分配 等项目的支持，而这些支持是认证 Kubernetes AI 合规计划的首批强制要求之一。</p>
</div><p>Still, projects mentioned by CNCF leaders as examples of emerging open source standards for AI inference workloads, including vLLM and AIBrix, must integrate with Nvidia's proprietary Compute Unified Device Architecture (CUDA) parallel computing framework. This is necessary to get these systems to work with Nvidia's GPU hardware, a market in which the company dominates.</p>
<div class="lb-trans"><p>尽管如此，CNCF 领导者提到的作为 AI 推理工作负载新兴开源标准的项目，包括 vLLM 和 AIBrix，必须与 英伟达的专有计算统一设备架构 (CUDA) 并行计算框架集成。这是为了使这些系统能够与英伟达的 GPU 硬件协同工作，而该公司在这一市场中占据主导地位。</p>
</div><p>Alternatives to GPUs such as Google's TPUs have gained some steam in the past year, including recent integrations with vLLM and a cloud partnership with Vast Data, in which Nvidia is an investor, announced this week. However, Nvidia has achieved a $5 trillion market valuation and secured deals worth tens of billions to supply its GPUs to major cloud providers and AI companies, including AWS and OpenAI.</p>
<div class="lb-trans"><p>过去一年中，谷歌的 TPU 等 GPU 替代品获得了一些关注，包括 vLLM 与 TPU 的近期集成 以及本周宣布的与 Vast Data 的 云合作伙伴关系，而英伟达是该公司的投资者。然而，英伟达已实现 5 万亿美元的 市场估值，并与主要云服务提供商和 AI 公司，包括 AWS 和 OpenAI，达成了数十亿美元的供应 GPU 的交易。</p>
</div><p>Chris Lamb, Nvidia’s vice president of GPU computing software, made a keynote appearance at KubeCon + CloudNativeCon 2024, and Bob Wise, now vice president of engineering and operations at Nvidia's DGX Cloud, represented AWS on the CNCF governing board from 2020 to 2022.</p>
<div class="lb-trans"><p>Nvidia 的 GPU 计算软件副总裁 Chris Lamb 在 2024 年 KubeCon + CloudNativeCon 上发表了主题演讲，而 Bob Wise 现在是 Nvidia DGX Cloud 的工程与运营副总裁，他在 2020 年至 2022 年期间代表 AWS 参加 CNCF 管理委员会。</p>
</div><p>But Nvidia President and CEO Jensen Huang, the public face of the company who has been a staple on the conference keynote circuit in recent years, hasn't appeared at any major CNCF event, Dickens countered.</p>
<div class="lb-trans"><p>但 Nvidia 总裁兼首席执行官黄仁勋，作为公司公众形象的代表，近年来一直是会议主题演讲的常客，却没有出现在任何主要的 CNCF 活动上，Dickens 反驳道。</p>
</div><p>&#34;Turning up to meetings, some engineers contributing a bit of code, all great, fantastic,&#34; he said. &#34;Nvidia's the ball game [in AI]. Are they going to be a tier one [player, with] Jensen on stage in a leather jacket at KubeCon?&#34;</p>
<div class="lb-trans"><p>他表示：“出席会议，一些工程师贡献一点代码，这些都很好，太棒了。Nvidia 是 AI 领域的主角。他们会在 KubeCon 上让黄仁勋穿着皮夹克登台吗？”</p>
</div><p>Potentially further muddying the waters, Nvidia has been more publicly specific about components it recently donated to open source Kubernetes-adjacent projects that aren't governed by CNCF, including Red Hat's llm-d in May.</p>
<div class="lb-trans"><p>可能进一步混淆局势的是，Nvidia 最近对其捐赠给不受 CNCF 管辖的开源 Kubernetes 相关项目的组件变得更加公开具体，包括在 5 月捐赠给 Red Hat 的 llm-d。</p>
</div><p>Nvidia also publicized its own new open source Kubernetes API, Grove, this week during KubeCon, which it did not donate to CNCF. The project &#34;defines the structure and lifecycle of single- and multi-node AI inference workloads, such as those deployed with NVIDIA Dynamo, while enabling them to scale efficiently in Kubernetes-based environments,&#34; according to a company blog post.</p>
<div class="lb-trans"><p>Nvidia 本周在 KubeCon 上还宣传了其新的开源 Kubernetes API Grove，该项目并未捐赠给 CNCF。该项目 “定义了单节点和多节点 AI 推理工作负载的结构和生命周期，例如与 NVIDIA Dynamo 部署的工作负载，同时使其能够在基于 Kubernetes 的环境中高效扩展，” 根据公司的一篇博客文章。</p>
</div><h2>The risks of the 'Nvidia economy'</h2>
<div class="lb-trans"><h2>'Nvidia 经济' 的风险</h2>
</div><p>Other industry analysts among the press conference attendees asked whether the Linux Foundation and CNCF would take on breaking Nvidia's &#34;stranglehold&#34; on the AI market, the way Linux had taken on Microsoft's Windows and the CNCF had offered a strong open source alternative to proprietary middleware.</p>
<div class="lb-trans"><p>其他行业分析师在新闻发布会的与会者中询问，Linux 基金会和 CNCF 是否会采取行动打破 Nvidia 对 AI 市场的 “控制”，就像 Linux 曾经对抗微软的 Windows，CNCF 提供了强大的开源替代品一样。</p>
</div><blockquote>
<p>What are you doing to make the fundamental primitives for AI compute not owned by one company? <strong>Stephen O'Grady</strong> Principal analyst, RedMonk</p>
</blockquote>
<div class="lb-trans"><blockquote>
<p>你们在做什么来确保 AI 计算的基本原语不被一家公司所拥有？ <strong>Stephen O'Grady</strong> RedMonk 首席分析师</p>
</blockquote>
</div><p>&#34;I don't see a lot of enablement for open source alternatives to CUDA,&#34; said Stephen O'Grady, principal analyst and co-founder at RedMonk, during the press conference Q&amp;A. &#34;What are you doing to make the fundamental primitives for AI compute not owned by one company?&#34;</p>
<div class="lb-trans"><p>RedMonk 的首席分析师兼联合创始人 Stephen O'Grady 在新闻发布会的问答环节中表示：“我没有看到很多支持开源替代 CUDA 的举措。你们在做什么来确保 AI 计算的基本原语不被一家公司所拥有？”</p>
</div><p>In response, Zemlin made another analogy to the early days of public cloud dominance by AWS.</p>
<div class="lb-trans"><p>对此，Zemlin 以 AWS 公有云主导早期的情况作了另一个类比。</p>
</div><p>&#34;If you look at market share now, it's fairly split -- you have Amazon, Microsoft, Alibaba, Oracle, Google -- it's a little bit more balanced,&#34; he said. &#34;Any time you have a technical revolution like AI, it will be crazy, and then things diversify naturally over time.&#34;</p>
<div class="lb-trans"><p>他说：“如果你看看现在的市场份额，它相对分散——你有亚马逊、微软、阿里巴巴、甲骨文、谷歌——这更加平衡。每当你有像 AI 这样的技术革命时，情况会非常疯狂，然后事情会随着时间的推移自然多样化。”</p>
</div><p>Another attendee said in an interview after the press conference that he hopes a strong open source alternative to CUDA will emerge.</p>
<div class="lb-trans"><p>另一位与会者在新闻发布会后接受采访时表示，他希望能出现强大的开源 CUDA 替代品。</p>
</div><p>&#34;If Nvidia keeps dominating as it is, there has to be an alternative,&#34; said Larry Carvalho, principal consultant at RobustCloud. &#34;I've been reading that the US has become the Nvidia economy, with a $5 trillion market cap for one firm -- that's a massive amount of gravity on one company. People talk about data gravity. This is compute gravity.&#34;</p>
<div class="lb-trans"><p>RobustCloud 的首席顾问 Larry Carvalho 说：“如果 Nvidia 继续主导市场，就必须有一个替代品。我听说美国已经成为 Nvidia 经济，一家公司的市值达到 5 万亿美元——这对一家公司来说是巨大的重力。人们谈论数据重力。这是计算重力。”</p>
</div><p><em>Beth Pariseau, a senior news writer for Informa TechTarget, is an award-winning veteran of IT journalism covering DevOps. Have a tip?</em> Email her <em>or reach out</em> @PariseauTT</p>
<div class="lb-trans"><p><em>Beth Pariseau 是 Informa TechTarget 的高级新闻撰稿人，是一位获得奖项的 IT 新闻记者，专注于 DevOps。有什么线索吗？</em> 给她发邮件 <em>或联系</em> @PariseauTT</p>
</div>

CNCF 的 Kubernetes AI 项目正受到 IT 分析师的密切关注