需求炸裂！英偉達芯片脱銷（大摩 TMT 會議中文版）

摩根士坦利 英伟达小会参会者NVIDIA Corporation 在 2024 年摩根士丹利 TMT 会议上发表演讲Colette M. Kress 执行副总裁兼 CFOJoseph Lawrence Moore 摩根士丹利研究部Joseph Lawrence Moore 执行董事 欢迎大家回来，我是乔·摩尔。非常高兴能有 NVIDIA 的 CFO，科莱特·克雷斯（Colette Kress）加入我们。在我们开始之前，我想快速读一下研究披露。有关重要披露，请访问摩根士丹利研究披露网站 morganstanley.com。如果您有任何问题，请与您的摩根士丹利销售代表联系。科莱特，在我们开始之前，我开玩笑说我不知道你现在怎么生活，因为我知道我的生活有多少被 NVIDIA 占据。而且像我这样的人有 30 个，而你只有一个，你还得担任CFO。所以，你一定非常忙碌。我真的很感激你能来这里。Joseph Lawrence Moore 摩根士丹利研究部也许我们可以开始了。看，你去年也在这里，我们当时还在讨论 ChatGPT 对生态系统的重要性。你的数据中心收入是 40 亿美元。现在你接近每个季度 200 亿美元。我不是在给你下定义，但接近 200 亿美元。你是怎么在一年内做到的？我的意思是，当你一年前坐在这里时，有没有想过可能需要在四个季度内达到 200 亿美元的需求？像Jensen说的，“嘿，我们必须准备好，以防我们需要在四个季度内达到 200 亿美元的需求？”你是怎么做到的？你是如何执行并满足这种需求的？Colette M. Kress 执行副总裁兼 CFO所以，我也得做一个非常简短的开场白。作为提醒，这次演讲包含了前瞻性声明，建议投资者阅读我们向 SEC 提交的报告，以获取与我们业务面临的风险和不确定性相关的信息。让我们回顾一下过去一年。是的，这是忙碌的一年。但可能，当我们一年前在这个平台上交谈时，我们的观点有所不同。我认为，当时生成性 AI 的引入还处于起步阶段，人们在讨论它是什么东西，人们用 ChatGPT 做了什么，以及这一切的开始。从我们的角度看，那时它是一个重要的部分。我们理解 OpenAI。我们已经与他们合作了几年，就他们构建的工作而言。我们可能只是将其视为我们从深度学习开始，使用 GPU 进行推理，现在是一个非常重要的大型语言模型，我们一直在这个领域工作。但事情确实发生了变化，因为我们对全球的兴趣感到好奇。当你说全球时，我指的是每一个国家，每一个企业，每一个消费者，全世界的每一个 CEO 都对 AI 能做什么有了非常深刻的理解，无论是从他们的角度来看货币化，还是从公司层面的效率和生产力。但我们退一步来看，我认为你必须理解我们公司的整体目标是专注于加速计算，已经超过十年了。可能已经超过 15 年了，作为我们的整体使命，帮助人们理解一个转变即将到来。随着摩尔定律走到尽头，新的平台来推动加速计算将是必要的，并且可能会持续数十年。AI 恰好是那个伟大的杀手级应用，它将使加速计算的使用在一开始就成为可能。因此，我们每天都在努力扩展我们的平台，扩展我们的系统，我们的软件，我们能为未来数据中心做的所有事情。但我们对这一点非常高兴。我们将称之为转折点，生成性AI 是这项工作的一个重要部分。Joseph Lawrence Moore 摩根士丹利研究部太好了。也许我想谈谈需求方面，但如果我们能谈谈你是如何如此迅速地增长的。我的意思是，我越来越多地与非半导体行业的投资者谈论 NVIDIA。当你考虑增长这样一个规模、复杂性的业务时，使用所有专门的多芯片封装工艺等等，增长 4 到 5 倍真是了不起。我们已经看到一些公司在类似情况下增长了 40%、50%，但由于供应限制而受到约束。你是如何做到的？你是如何如此积极地提高产量的？我会稍微涉及一些供应链的焦虑，人们担心你会赶上需求。你如何看待这个问题？我的意思是，你最终是在努力赶上需求。Colette M. Kress 执行副总裁兼 CFO正确。所以专注于提高供应，供应的提高必须来自许多不同的方面。这不仅仅是一件事使我们能够做到这一点。多年来，我们一直在谈论供应链的弹性和冗余性，这是未来所有企业都必须考虑的。我们只是比我们想象的规模提前了很多。但我们仍然使用了很多我们一直在做的基础设施。首先，要记住，我们的许多供应商和合作伙伴已经与我们合作了几十年。第一件事是，谁先打电话给谁？实际上，双方都有。所以，我们如何帮助，我们如何帮助你扩大现有供应商的产能，与我们的额外供应商扩大额外供应。但我们也寻找新的供应商，新的供应商为了能够构建我们正在做的许多产品，拥有一套全新的供应商。最后，我们专注于制造周期时间，分解它，说，我们能做什么来改善这个周期时间，以便我们能更快地将库存推向市场？一年来，我们已经取得了很大的进步。每个季度，我们的任务都是增加我们对客户的供应，我们实现了这一点。即使在今年，情况也会是一样的。所以我们对这项工作非常满意。Joseph Lawrence Moore 摩根士丹利研究部谢谢。在您看待近期环境时，您觉得您是否接近满足需求？我猜在这种情况下，人们非常关注交货期，以回答这个问题。但还有电源和机架空间等问题，您的客户都在处理这些问题。在许多情况下，这些东西并没有跟上您交付的供应。看起来，对 GPU的最终需求仍然非常强烈且未得到满足。所以您如何看待在满足这种需求方面的位置？Colette M. Kress 执行副总裁兼 CFO是的。当您考虑需求时，大约一年前，我们提出了需求。这不是我说我需要在这一天、这一天的需求。人们只是排队等待他们想要的需求，就未来可预见的需求而言。我们正在处理很大一部分。但请记住，这在很大程度上是基于我们推向市场的一个非常重要的产品，即 H100。H100 从我们创建的平台架构来看是真正的成功。但请记住，我们有新产品即将推向市场，这将进入供需管理的下一个阶段。我可能会在稍后更多地谈论我们所看到的。但重点是保持供应与需求的一致，同时也帮助我们的客户，因为我们正在将这些新产品推向市场，了解构建这些产品以及构建数据中心的需求将是什么。当您回顾一下，假设您租用了或建造了一个数据中心，但还没有完全配置好，您可能需要一年的时间来设置数据中心内的所有内容并准备就绪。规划过程是漫长的，当您也在考虑，随着新产品的推出，将会有哪些变化？我应该如何考虑电源？我应该如何考虑数据中心的整体配置？我们拥有的最佳客户和数据中心建设者已经在多年的时间里工作，以使这些数据中心准备好转变为加速计算，保持所有这些事情的一致性。所以这处于一个很好的位置。有很多被锁定的电力。被锁定的电力已经被用于效率低下的数据中心建设，可能会被完全重做。这将是他们想做的第一件事。但然后长期来看，未来数据中心的电力采购将是一个需求。但是的，所有这些都在我们与许多顶级客户已经看到的工作中。Joseph Lawrence Moore 摩根士丹利研究部Jensen 在电话会议上发表了这些评论，特别提到了您的一个超大规模客户，延长了传统服务器的折旧周期。您谈到了在某种程度上，您正在取代一些需求，或者为传统服务创造了更多的遗留环境。这是真的吗？还是人们只是想升级服务器，但他们需要先专注于这个？现在您如何看待与传统服务器工作负载的竞争？这只是预算问题，还是实际上也是功能问题？Colette M. Kress 执行副总裁兼 CFO是的，这是一个很好的问题。很难确切地确定它将如何发展，但可能有很多因素。所以我们在市场上看到的一些事情是，每年大约 10 到 20 年，数据中心 CapEx 的支出约为 2500 亿美元，这一直相对稳定。然而，去年，这实际上增加了，这是很长一段时间以来的第一次。他们的关注点在哪里？当然，他们的关注点在于加速计算，但你也看到了资产寿命的延长，这使得现有的 x86 服务器可以继续生产，使用它们，但不一定升级。当您考虑资本使用时，所有公司都会经历，我如何考虑我将实现的投资回报？他们可能会优先考虑最重要的项目。对他们来说最重要的项目现在是在 AI 上保持竞争力。所有公司都会在他们的不同企业中注入 AI。所以 AI 已经成为他们支出资本的一个重要部分。问题是，他们是否会继续升级一些非高投资回报类型的投资？可能不会。这将是第一件可能会留下的事情，可能会被更高效的解决方案所取代，比如加速计算和 AI。所以我认为随着我们向前发展，你会看到这种情况。Joseph Lawrence Moore 摩根士丹利研究部这很有帮助。谢谢。您在电话会议上提到了这样一个观点，即当新产品推出时，您将无法满足所有需求，最初可能无法完全满足需求。显然，您已经正式谈到了 H200，但还有其他一些您尚未宣布的产品。但我认为 Jensen 在一些新闻文章中稍微透露了一点，说下一代产品也会供不应求。您能谈谈这一点吗？您是如何已经知道人们会对尚未宣布的产品感兴趣，以至于他们已经准备购买了？Colette M. Kress 执行副总裁兼 CFO是的。我们几十年来在架构推向市场的过程中改进的一个重要部分是我们与许多关键客户的联系，我们已经与他们合作了 10 年。新架构的推出对他们来说并不意外，因为我们一直在了解他们的需求，以便将其纳入架构中。但第二，他们对许多产品的规格和样品有很好的了解，即使在产品进入市场之前的早期阶段。我们也对他们的需求预期有了很好的了解，他们正在寻找什么级别的产品。这对我们开始构建新架构时了解他们的需求非常有帮助。这就是 Jensen 留下的一个说法，即需求可能会超过我们的供应，或者说需求看起来相当紧张。所以，我们再次面临的问题是如何满足我们面前的需求。Joseph Lawrence Moore 摩根士丹利研究部太好了。然后我知道您很快就会对这些新产品说更多，但从您所做的所有市场营销活动来看，从我们从客户那里听到的情况来看，这些产品似乎真的很不错。您如何看待过渡？您认为随着新产品的推出，旧产品会有停滞的风险吗？当您看到 B100、B200这样的真正引人注目的产品时，您感觉如何？您认为您知道所有 H100 的去向吗，还是在过渡阶段？Colette M. Kress 执行副总裁兼 CFO是的。这有点涉及到我们为了加快架构从可能的 2 年周期到更可能的 1 年周期所做的工作。但即使在那个架构中，我们现在也有能力推出其他关键产品，这些产品也可以影响市场上的一些需求。H200 就是这个例子，它是 H100 的补充。我们一次又一次看到的是，当你处于某个架构中并坚持使用该架构时，你已经在系统、软件和安全性方面对其进行了资格认证。这是他们流程的重要部分。这种持续性将是许多人的重要需求周期。现在每个人都在想 H100，这个房间里有很多人，这个城市有很多人还没有接触过 H100，所以即使我们推出新产品，H100 的可用性对于许多人来说仍然很重要，无论是对于那些已经建立的集群来说，他们想要添加到其中，还是对于那些还没有开始的人来说。当你考虑到新产品的可用性和潜在的供应紧张，以及资格认证期，下一个伟大的事情或者市场上最好的产品仍然会是 H100。Joseph Lawrence Moore 摩根士丹利研究部太好了。关于您提到的尚未满足需求的客户数量的跟进评论。您谈到了主权支出者，非传统企业软件支出者。很明显，如果您是一个主权国家，您会希望拥有自己的硬件，而不是在公共云中构建。您有一个整个世界的地区，现在已经好几个月不允许从您这里购买东西了，因为中国的出口管制，也许会有一些方式可以进入那个市场。您能否描述一下这种未满足需求来自哪里？当您谈到世界上每个政府都想做这件事时，这是夸张的说法吗？还是您真的看到了来自他们的这种需求水平？Colette M. Kress 执行副总裁兼 CFO是的，有很多不同领域的独特需求。我们还没有触及的行业。我们在医疗保健、金融服务、汽车、制造业等关键领域有着非常强的联系。我们也看到生成性 AI 在全球所有企业软件公司中的应用不断推进。所以您仍然有大量的美国本土公司非常感兴趣。我们谈到了主权 AI 和 OpenAI 和 ChatGPT 带来的独特视角。ChatGPT 是基于美国的，是美国语言，是美国文化。整个过程中都是美国的俚语。许多其他国家也想要他们自己的，用他们自己的文化，他们自己的语言。所以这些地区的大型语言模型工作很重要，由国家主权部分推动。您看到企业对将这种类型的大型语言模型添加到他们的企业级应用中感兴趣。所以这种兴趣的流是重要的部分。我们有一个相当大的管道，正在与他们合作，因为他们还没有达到拥有我们在美国有时所拥有的所有计算能力。所以，我们将继续为这些新企业、主权国家以及我们希望满足我们中国合作伙伴期望的产品建立一个大的部分。Joseph Lawrence Moore 摩根士丹利研究部好的。关于中国的部分，也许您可以谈谈这将如何发展。现在有一个阈值，您不能低于这个阈值——事实上，它低于这个阈值 50%，您仍然需要许可证。所以您可以在低于这个阈值的范围内，但这可能更像是以每小时 30 英里的速度进行汽车比赛，您在某种程度上受到限制。您有能力进一步提高到这个范围，并进入政府视角下不那么威胁的东西吗？Colette M. Kress 执行副总裁兼 CFO是的。所以与新的出口管制一起，他们不仅增加了性能，还增加了密度。所以这两件事结合在一起，真的让我们努力为中国创造合适的产品。他们当然对与 NVIDIA 合作感兴趣，他们已经与我们合作了几十年。但同样重要的是理解，他们尊重我们的软件和我们的软件平台。所以我们确实为他们准备了产品，因为他们继续审查性能，他们将如何解决它，以及能够使用软件。我们已经与政府合作。我们已经与美国政府合作，确保他们了解我们即将上市的产品。不仅是为我们，而且我们的中国客户也想知道。他们为什么想知道？他们想长期使用这个。他们想确保美国政府了解我们在那里的工作。但展望未来，我们不知道美国政府是否会有未来的任何变化。但我们只能遵循我们今天拥有的规则。中国的性能是否会提高？还不确定。随着我们即将推出具有额外性能的新产品，这会是他们考虑出口管制的事情吗？我们还没有得到任何信号。Joseph Lawrence Moore 摩根士丹利研究部好的。那么关于您在财报电话会议上提到的 40%的收入来自推理的问题，这实际上是我在这一季度之后收到的最常问的问题。这确实是一个很大的数字，因为我们实际上还处于使用这些模型的相对早期阶段。如果推理的增长轮廓如此清晰且强劲，那么这将是一个相当看涨的信号。但您是如何知道的？因为我和云公司的人交谈时，他们说，对于两者来说，使用的是相同的 GPU。我们不确定这些推理工作负载有多少。您在电话会议上说，这是一个估计，但您认为这是一个保守的估计。那么，也许您可以稍微谈谈这个 40%。Colette M. Kress 执行副总裁兼 CFO是的，这对我们来说是一个很好的练习。我不想让您在任何时候突然从椅子上掉下来。但我们所做的工作实际上是帮助人们理解，我们确实知道我们最大的系统，我们了解我们所做的工作，工程团队与工程团队之间的合作，与我们合作的公司。所以我们去找工程师，实际上研究了我们与许多客户合作的所有项目，并能够对他们的用例进行分类。所以我知道我们正处于生成性 AI 的早期阶段，人们可能还在大型语言模型构建的部分。有些人已经转向了 Copilot，转向了货币化。但大型语言模型创建中最重要的事情之一是推荐引擎，好吗？推荐引擎为这个房间里每个人的手机提供了动力，以及他们所做的工作，无论是新闻，还是您购买的东西，还是未来餐厅或其他东西。这是营销的一个重要部分，必须为隐私重新设计。在这一点上，推荐引擎非常关键。搜索是另一个非常重要的工作负载，我理解人们对生成性 AI 的兴奋。但它仍然是一个非常重要的工作负载。我们所做的工作是专注于未来的推理。不是过去 30 年的推理，不是原型二进制类型的响应，而是理解需要毫秒级响应率的大型数据。我们知道这将对市场非常关键。但生成性 AI 才刚刚开始。我们有一个庞大的推荐引擎和搜索基础，这就意味着推理可能会随着我们的发展而增长。Joseph Lawrence Moore 摩根士丹利研究部那么，当我们在这次会议和其他场合听到公司，云公司谈论降低每查询成本作为主要优先事项时，这是否让人们转向 NVIDIA？远离 NVIDIA？我们应该如何考虑这种动态？因为使用这些推理的 GPU 非常昂贵，但显然也非常高效。Colette M. Kress 执行副总裁兼 CFO您需要分解一下这个问题。他们需要考虑的成本不仅仅是我们提供的系统的成本。他们需要考虑的是他们的总体拥有成本（TCO），这是他们正在承担的成本。例如，在疫情期间，人们最关注的一个领域是研究他们的电费账单，了解他们的电力运行在哪里，但实际上并没有真正运行的东西。所以，从系统的角度，工程使用，软件使用，电力使用来看，NVIDIA 提供的是最高效的推理解决方案。这就是为什么人们转向那里的原因。它既能获得出色的响应率，又能在最短的时间内获得这种响应率。电力上升，但电力很快就会在这个过程中迅速下降。所以您必须看整个系统的总体拥有成本价值，以及所有进入账户的东西。您不能仅仅从卡的价格来看。这不是正确的方程式。Joseph Lawrence Moore 摩根士丹利研究部是的。这很有帮助。谢谢。那么，您谈到了网络，我相信现在是一个 130 亿美元的年增长率。这不太令人惊讶，因为您在上个季度说过类似的话，我想是 100 亿美元的年增长率。但这仍然是一个令人惊讶的数字，因为我们的一些半导体竞争对手对网络周围的十亿美元机会感到兴奋。看起来您在网络方面和处理器方面一样占据主导地位，当涉及到 AI 时。那么，您能谈谈这个数字以及您对这个数字持续的能见度吗？Colette M. Kress 执行副总裁兼 CFO是的。这是一项了不起的工作。Mellanox 团队与 NVIDIA 合作，为数据中心计算增加了一个重要的部分，即专注于网络。我们可以并且确实拥有最好的系统和处理器来处理 [Palo] 处理和加速计算的工作。但如果您没有最好的网络，实际上就削弱了您从计算中获得的成功。所以，我们已经合作多年了，自收购以来，一直在同时理解我们如何将网络融入我们的工作，主要关注流量模式和速度。数据中心内的流量模式对于您能从中获得的成功至关重要，特别是在推理阶段。如果您考虑来自东西南北所有端的流量，这是一个关键的重要部分。我们的 InfiniBand 平台已经成为许多 AI 和加速计算集群的黄金标准。所以我们经常将我们的数据中心计算结构一起销售。这是我们一直在做的事情的延续。我们还有一些很棒的新产品即将上市，还有 Spectrum-X。Spectrum-X 专注于以太网。以太网也是许多企业的的重要标准。所以现在我们将拥有与 InfiniBand 相同的优势，我们也可以在以太网阶段做到这一点。所以我们对所有这些事情上市感到兴奋。Joseph Lawrence Moore 摩根士丹利研究部太好了。那么，关于网络的怀疑者回应是，您有短缺，您在捆绑销售，但这似乎并不像我们所看到的那样。就像网络方面也有未满足的需求。Colette M. Kress 执行副总裁兼 CFO当所有好事在某个时候都会遇到一些挑战时，创造这些伟大的产品。它们显然不是普通商品。所以我们的光缆有时可能会需求很高。但我们认为我们已经解决了大部分问题，这是我们与供应商和合作伙伴创建的。Joseph Lawrence Moore 摩根士丹利研究部好的。您谈到了软件和服务首次达到 10 亿美元。您能谈谈这一点吗？以及这部分的主要组成部分是什么？Colette M. Kress 执行副总裁兼 CFO是的。我们很高兴在年底达到了年化 10 亿美元的软件服务和 SaaS 水平。您将在那里看到的主要组成部分，NVIDIA AIE，既可以单独销售，也可以与我们的许多关键平台一起销售。这对企业使用很重要。您还有我们从 SaaS 角度与 DGX Cloud 所做的工作。您还有我们为人们构建模型，甚至使用 NeMo、BioNeMo 以及我们为他们提供的系统支持所做的服务。我们有一大群软件解决方案可供选择。这将是未来的一个重要增长点，因为我们将在未来，例如，汽车软件，我们将与我们在那里的整体基础设施一起销售。Omniverse的规模也是一件大事。随着我们继续发展企业，以及 AIE 的重要性，随着我们继续发展生成性 AI，企业需要许可软件以确保，A，它保持最新，新功能，安全的关键部分，我们将看到新事物的出现。人们需要进入开发阶段，比如 CUDA，以确保他们跟上 AI 的最新和最伟大的发展。但这也是他们获得 CUDA DNN 用于深度学习网络的地方。他们有能力获得 NeMo，获得 BioNeMo，获得 SDK、API，一个完整的端到端堆栈，也完全与我们的数据中心堆栈工程化。所以这与创建芯片非常不同。我们的业务是平台公司，能够提供您可能需要的任何形式的数据中心计算。创建平台与创建芯片的过程不同，我们的重点是确保在每个数据中心层面，我们能够提供所有不同的组件，无论是计算基础设施、网络基础设施，还是整体的内存部分。我们可以组装一个完整的超级计算机。所以这是我们的业务，这伴随着一个端到端的软件堆栈。软件在任何时候都会说，随着 AI 的不断发展，我们会看到新事物。人们需要进入开发阶段，比如 CUDA，以确保他们跟上 AI 的最新和最伟大的发展。但这也是他们获得 CUDA DNN 用于深度学习网络的地方。他们有能力获得 NeMo，获得 BioNeMo，获得 SDK、API，一个完整的端到端堆栈，也完全与我们的数据中心堆栈工程化。所以这与创建芯片非常不同。我们的业务是平台公司，能够提供您可能需要的任何形式的数据中心计算。创建平台与创建芯片的过程不同，我们的重点是确保在每个数据中心层面，我们能够提供所有不同的组件，无论是计算基础设施、网络基础设施，还是整体的内存部分。我们可以组装一个完整的超级计算机。Joseph Lawrence Moore 摩根士丹利研究部太好了。关于服务的话题，我收到了很多关于 DGX Cloud 的问题，您基本上与超大规模计算服务提供商合作，提供基于云的服务。我得到的问题是，您在这个业务中的抱负有多大？其次，这是您的一些超大规模计算服务提供商担心您可能会与他们竞争的事情吗？Colette M. Kress 执行副总裁兼 CFO是的。我认为在谈论我们的云服务提供商（CSP）时，将他们视为我们的合作伙伴是正确的。他们正在构建计算能力，专注于为多租户环境提供计算的极端专业知识。当他们与企业讨论软件时，这是一个很好的机会，他们可以说，我可以把 NVIDIA 介绍给你，以便他们可以帮助您处理软件部分。所以这是一个双赢的局面。CSP 设置了计算。我们提供整体软件。CSP、客户都很高兴，NVIDIA 销售并创建了软件关系。这就是它的工作原理。您可以走另一个方向，即客户可以直接与 NVIDIA 合作，就软件、服务和解决方案进行合作，无论他们是构建 LLM 还是构建他们想要在他们的 LLM 可能性上提供的应用程序。但请记住，我们已经与 CSP 采购了计算能力。所以 CSP 仍然看到业务完成，我们现在只是直接与他们在我们的平台上合作。两种方式都很好。这两种方式对他们来说都是很好的解决方案。Joseph Lawrence Moore 摩根士丹利研究部太好了。这很有帮助。也许您可以稍微谈谈竞争，因为我觉得我每周都会收到关于您的超大规模计算服务提供商的定制硅的新闻稿。有很多初创公司。您有 AMD 和 Intel 的商业产品似乎在市场上有一些收入增长。您如何看待这一切？您有多少精力放在与竞争对手竞争上，而不是专注于 NVIDIA 自己在做什么？Colette M. Kress 执行副总裁兼 CFO我们的关注点与许多公司不同，他们专注于硅或特定芯片用于某种工作负载。退后一步，理解我们的愿景是一个平台公司，一个能够提供您可能需要的任何形式的数据中心计算的平台公司。创建平台与创建芯片的过程不同，我们的重点是确保在每个数据中心层面，我们能够提供所有不同的组件，无论是计算基础设施、网络基础设施，还是整体的内存部分。我们的目标是提供完整的超级计算机。所以这是我们的业务，伴随着一个端到端的软件堆栈。这个软件堆栈在任何时候都会说，随着 AI 的不断发展，我们会看到新事物。人们需要进入开发阶段，比如CUDA，以确保他们跟上 AI 的最新和最伟大的发展。但这也是他们获得 CUDA DNN用于深度学习网络的地方。他们有能力获得 NeMo，获得 BioNeMo，获得 SDK、API，一个完整的端到端堆栈，也完全与我们的数据中心堆栈工程化。所以这与创建芯片非常不同。我们的业务是平台公司，能够提供您可能需要的任何形式的数据中心计算。创建平台与创建芯片的过程不同，我们的重点是确保在每个数据中心层面，我们能够提供所有不同的组件，无论是计算基础设施、网络基础设施，还是整体的内存部分。我们可以组装一个完整的超级计算机。我们会时不时地看到简单的芯片上市。没问题。但请记住，客户必须在整体拥有成本（TCO）中权衡这些。现在，您有一个专注于 NVIDIA 平台的开发人员群体，这是一个非常重要的大型开发人员群体。开发人员希望在有其他开发人员的地方花费时间。所以，当您考虑其他类型的硅时，您必须说服开发人员说，那是一个好的时间投资。这是一个资源投入和整体拥有成本的完全改变，以便他们考虑它。这不是芯片的成本。这是整体拥有成本的成本。Joseph Lawrence Moore 摩根士丹利研究部太好了。我还有一些关于数据中心的问题，但我想问一个财务问题，然后开放给观众。您对毛利率的评论，显然，短期内毛利率非常好。您预计在下半年会下降。您能稍微谈谈这一点吗？这更多的是保守主义，只是不想被非常高的毛利率目标束缚，还是您在考虑，我们必须追求一些会降低毛利率的事情？Colette M. Kress 执行副总裁兼 CFO是的。当我们完成第四季度的毛利率水平时，我们在 70%以上。而且，我们对第一季度的指导也在这个水平。我们掌握了将 H100 推向市场的过程，使用其他供应商帮助我们沿途提高毛利率。然而，随着我们向前发展，我们可能会推出更多不同类型的产品。所以，我们将回到 H100 之前的水平，对于其中的一些产品，我们将回到中 70%的水平。我认为这是一个好地方，但他们都开放讨论，以确定我们内部的组合将是什么。但这是我们计划的。这只是不同的组合，以及我们对 H100 的兴奋。由于它如此领先，我们能够真正将其带到成熟阶段，并提高整体制造成本。Joseph Lawrence Moore 摩根士丹利研究部太好了。让我看看观众有没有问题。未知分析师我们是 Jensen 和 NVIDIA 在 AI 革命中领先的大粉丝。我有两个问题。第一个是关于长期前景的，对吧？例如，您的一些竞争对手，AMD 和 TSMC 都评论了长期未来，并引用了到 27 年大约 4000 亿美元的数字。Joseph Lawrence Moore 摩根士丹利研究部27 年，是的。未知分析师问题一，如果您使用 TSMC 的数字反推，大约是 3000 亿美元左右。那么，您如何看待这个长期利润率的上升空间？问题二，您提到我们正在加速产品创新，从大约 2.5 年加速到大约 1 年。我认为这是一件大事。这对竞争对手来说很难赶上。所以，您能谈谈这个吗？B100、H100？未来有可能进一步加速吗？Colette M. Kress 执行副总裁兼 CFO好的。关于加速器市场的规模有很多不同的数字，他们看到的市场规模，无论是 27年还是未来的。让我们退后一步，从我们对市场的看法和规模来看。我们已经谈到了我们今天在数据中心的安装基础，以及我们专注于真正成为数据中心计算公司，专注于将数据中心转变为加速计算和 AI。这是我们面前的市场，这是我们面前的 TAM（总可寻址市场），我们去做。所以，即使您认为数据中心的 1 万亿美元安装基础，以及我们将其全部转变为加速计算的能力，这对我们来说，因此，机会是 1 万亿美元。但如果我们考虑 AI 在加速计算中的使用，以及它也能做什么，从效率和货币化的角度来看，它可能会比现有的安装基础更大。您将能够处理以前从未能够处理过的数据。您将能够以更有效的方式找到解决方案，使用 AI 来找到许多解决方案。您可能会看到 1 万亿美元的增长。我认为在一次公路旅行中，Jensen 表示您可能会看到接近 2 万亿美元的东西，不仅仅是 1 万亿美元。所以我们以不同的方式看待它，我们不是加速器公司，我们是数据中心的整体加速计算公司。所以我们确实认为市场要大得多。未知分析师Jensen 在之前的财报电话会议上谈到了多模态推理。您看到多模态推理有哪些进展？就像我们刚刚看到的例子，文本到视频。您如何看待这作为推理需求增长的杠杆？作为这里的投资者，我们关注的是从这里看到需求增长的衍生。这是第一个问题。第二个问题是关于政府支出，您看到推理在其中吗？还是只是训练？Colette M. Kress 执行副总裁兼 CFO太好了。让我们谈谈我们面前的推理想法。这是一个很好的问题。正如我们之前谈到的，我们的 40% 推理和我们专注于它作为未来增长的需求。我们关注的领域是推理，它不仅仅是标准数据，使用视频作为我们看到的最重要的领域之一，推荐引擎。但还有生物学可能的工作方式，以及考虑文本到语音、视频等所有不同的领域，是的，这是我们未来关注的重点。第二个问题是——还有第二个问题吗？未知分析师政府支出在这方面，是训练吗？可能是推理稍后？还是它...Colette M. Kress 执行副总裁兼 CFO政府在这方面的支出。从一开始，他们的重点是训练，训练他们自己的自然语言或他们自己的文化领域。所以为他们的国家或整个国家构建一个大型模型将是他们的主要关注领域。有些甚至可能从企业层面开始。在美国以外，有政府资金的帮助以及企业经常联合工作。所以有一点两者的结合。但是的，在他们的训练部分之后，为他们所在地区的应用程序和解决方案工作也是他们最关心的。