<p>OpenAI 寻求替代 Nvidia 的 AI 推理芯片</p>
<p>Nvidia 对 OpenAI 的 1000 亿美元投资被推迟</p>
<p>OpenAI 探索与 AMD、Cerebras 和 Groq 的交易</p>
<p>作者：Max A. Cherney, Krystal Hu 和 Deepa Seetharaman</p>
<p>旧金山，2 月 2 日（路透社）—— OpenAI 对 Nvidia 最新的人工智能芯片不满意，自去年以来一直在寻求替代方案，八位知情人士表示，这可能会使这两家在 AI 热潮中最引人注目的公司之间的关系变得复杂。ChatGPT 制造商的战略转变，首次在此报道，主要是因为对用于执行 AI 推理特定元素的芯片的日益重视，推理是指像 ChatGPT 应用程序这样的 AI 模型响应客户查询和请求的过程。Nvidia 在训练大型 AI 模型的芯片市场中仍然占据主导地位，而推理已成为竞争的新前沿。</p>
<p>OpenAI 的这一决定</p>
<p>以及其他公司</p>
<p>在推理芯片市场寻求替代方案，标志着对 Nvidia AI 主导地位的重大考验，并且正值两家公司进行投资谈判之际。去年 9 月，Nvidia 表示计划向 OpenAI 投资多达 1000 亿美元，作为一项交易的一部分，使这家芯片制造商获得了该初创公司的股份，并为 OpenAI 提供了购买先进芯片所需的现金。路透社报道，该交易预计将在几周内完成。然而，谈判已经拖延了数月。在此期间，OpenAI 与 AMD（AMD.O）等公司达成了针对与 Nvidia 竞争的 GPU 的交易。但其不断变化的产品路线图也改变了其所需的计算资源，并使与 Nvidia 的谈判陷入僵局，一位知情人士表示。周六，Nvidia 首席执行官黄仁勋对与 OpenAI 的紧张关系的报道不以为然，称这一想法是 “无稽之谈”，并表示 Nvidia 计划对 OpenAI 进行大规模投资。</p>
<p>Nvidia 在一份声明中表示：“客户继续选择 NVIDIA 进行推理，因为我们在规模上提供最佳性能和总拥有成本。”</p>
<p>OpenAI 的一位发言人在另一份声明中表示，该公司依赖 Nvidia 为其绝大多数推理设备提供动力，并且 Nvidia 在推理方面提供最佳的性价比。</p>
<p>七位消息人士表示，OpenAI 对 Nvidia 硬件在特定类型问题（如软件开发和 AI 与其他软件的沟通）上为 ChatGPT 用户提供答案的速度不满意。它需要新的硬件，未来将满足 OpenAI 大约 10% 的推理计算需求，一位消息人士告诉路透社。ChatGPT 制造商已与包括 Cerebras 和 Groq 在内的初创公司讨论合作，以提供更快推理所需的芯片，两位消息人士表示。但 Nvidia 与 Groq 签署了一项价值 200 亿美元的许可协议，终止了 OpenAI 的谈判，一位消息人士告诉路透社。Nvidia 决定收购 Groq 的关键人才，似乎是为了巩固其技术组合，以更好地在快速变化的 AI 行业中竞争，芯片行业高管表示。Nvidia 在一份声明中表示，Groq 的知识产权与 Nvidia 的产品路线图高度互补。</p>
<p>NVIDIA 替代方案 Nvidia 的图形处理芯片非常适合进行大规模数据处理，这对于训练大型 AI 模型（如 ChatGPT）至关重要，这些模型支撑了全球 AI 的爆炸性增长。但 AI 的进步越来越集中于使用训练好的模型进行推理和推理，这可能是 AI 的一个新的、更大阶段，激励了 OpenAI 的努力。自去年以来，ChatGPT 制造商对 GPU 替代品的搜索集中在那些在同一块硅片上嵌入大量内存的芯片制造公司，这种内存称为 SRAM。将尽可能多的昂贵 SRAM 压缩到每个芯片上，可以为聊天机器人和其他 AI 系统提供速度优势，因为它们处理来自数百万用户的请求。推理需要比训练更多的内存，因为芯片需要花费相对更多的时间从内存中提取数据，而不是执行数学运算。Nvidia 和 AMD 的 GPU 技术依赖于外部内存，这增加了处理时间并减慢了用户与聊天机器人的互动速度。</p>
<p>在 OpenAI 内部，这一问题在其创建计算机代码的产品 Codex 中变得尤为明显，该公司一直在积极推广，一位消息人士补充道。OpenAI 员工将 Codex 的一些弱点归因于 Nvidia 的基于 GPU 的硬件，一位消息人士表示。</p>
<p>在 1 月 30 日与记者的电话会议上，首席执行官 Sam Altman 表示，使用 OpenAI 编码模型的客户将 “对编码工作速度给予很高的重视。” OpenAI 将通过与 Cerebras 的最新交易来满足这一需求，Altman 说，并补充说，对于普通 ChatGPT 用户来说，速度的要求则不那么迫切。</p>
<p>竞争产品如 Anthropic 的 Claude 和谷歌的 Gemini 受益于更依赖谷歌自制芯片（称为张量处理单元，TPU）的部署，这些芯片专为推理所需的计算而设计，并且可以提供比通用 AI 芯片（如 Nvidia 设计的 GPU）更好的性能优势。</p>
<p>NVIDIA 在行动 当 OpenAI 明确表达对 Nvidia 技术的保留时，Nvidia 接触了包括 Cerebras 和 Groq 在内的致力于 SRAM 重型芯片的公司，探讨潜在的收购，一些知情人士表示。Cerebras 拒绝了，并与 OpenAI 签署了上个月宣布的商业协议。Cerebras 拒绝置评。Groq 与 OpenAI 就提供计算能力的交易进行了谈判，并获得了投资者的兴趣，以大约 140 亿美元的估值为公司融资，根据知情人士的说法。Groq 拒绝置评。</p>
<p>但到 12 月，Nvidia 决定以非独占的全现金交易许可 Groq 的技术，消息人士表示。尽管该交易允许其他公司许可 Groq 的技术，但该公司现在专注于销售基于云的软件，因为 Nvidia 挖走了 Groq 的芯片设计师。</p>

半导体 3 倍做多 - Direxion

OpenAI

<p>OpenAI seeks alternatives to Nvidia for AI inference chips</p>
<div class="lb-trans"><p>OpenAI 寻求替代 Nvidia 的 AI 推理芯片</p>
</div><p>Nvidia’s $100 billion investment in OpenAI delayed</p>
<div class="lb-trans"><p>Nvidia 对 OpenAI 的 1000 亿美元投资被推迟</p>
</div><p>OpenAI explored deals with AMD, Cerebras, and Groq</p>
<div class="lb-trans"><p>OpenAI 探索与 AMD、Cerebras 和 Groq 的交易</p>
</div><p>By Max A. Cherney, Krystal Hu and Deepa Seetharaman</p>
<div class="lb-trans"><p>作者：Max A. Cherney, Krystal Hu 和 Deepa Seetharaman</p>
</div><p>SAN FRANCISCO, Feb 2 (Reuters) - OpenAI is unsatisfied with some of Nvidia’s latest artificial intelligence chips, and it has sought alternatives since last year, eight sources familiar with the matter said, potentially complicating the relationship between the two highest-profile players in the AI boom. The ChatGPT-maker’s shift in strategy, the details of which are first reported here, is over an increasing emphasis on chips used to perform specific elements of AI inference, the process when an AI model such as the one that powers the ChatGPT app responds to customer queries and requests. Nvidia remains dominant in chips for training large AI models, while inference has become a new front in the competition.</p>
<div class="lb-trans"><p>旧金山，2 月 2 日（路透社）—— OpenAI 对 Nvidia 最新的人工智能芯片不满意，自去年以来一直在寻求替代方案，八位知情人士表示，这可能会使这两家在 AI 热潮中最引人注目的公司之间的关系变得复杂。ChatGPT 制造商的战略转变，首次在此报道，主要是因为对用于执行 AI 推理特定元素的芯片的日益重视，推理是指像 ChatGPT 应用程序这样的 AI 模型响应客户查询和请求的过程。Nvidia 在训练大型 AI 模型的芯片市场中仍然占据主导地位，而推理已成为竞争的新前沿。</p>
</div><p>This decision by OpenAI</p>
<div class="lb-trans"><p>OpenAI 的这一决定</p>
</div><p>and others</p>
<div class="lb-trans"><p>以及其他公司</p>
</div><p>to seek out alternatives in the inference chip market marks a significant test of Nvidia’s AI dominance and comes as the two companies are in investment talks. In September, Nvidia said it intended to pour as much as $100 billion into OpenAI as part of a deal that gave the chipmaker a stake in the startup and gave OpenAI the cash it needed to buy the advanced chips. The deal had been expected to close within weeks, Reuters reported. Instead, negotiations have dragged on for months. During that time, OpenAI has struck deals with AMD (AMD.O) and others for GPUs built to rival Nvidia’s. But its shifting product road map also has changed the kind of computational resources it requires and bogged down talks with Nvidia, a person familiar with the matter said. On Saturday, Nvidia CEO Jensen Huang brushed off a report of tension with OpenAI, saying the idea was “nonsense” and that Nvidia planned a huge investment in OpenAI.</p>
<div class="lb-trans"><p>在推理芯片市场寻求替代方案，标志着对 Nvidia AI 主导地位的重大考验，并且正值两家公司进行投资谈判之际。去年 9 月，Nvidia 表示计划向 OpenAI 投资多达 1000 亿美元，作为一项交易的一部分，使这家芯片制造商获得了该初创公司的股份，并为 OpenAI 提供了购买先进芯片所需的现金。路透社报道，该交易预计将在几周内完成。然而，谈判已经拖延了数月。在此期间，OpenAI 与 AMD（AMD.O）等公司达成了针对与 Nvidia 竞争的 GPU 的交易。但其不断变化的产品路线图也改变了其所需的计算资源，并使与 Nvidia 的谈判陷入僵局，一位知情人士表示。周六，Nvidia 首席执行官黄仁勋对与 OpenAI 的紧张关系的报道不以为然，称这一想法是 “无稽之谈”，并表示 Nvidia 计划对 OpenAI 进行大规模投资。</p>
</div><p>“Customers continue to choose NVIDIA for inference because we deliver the best performance and total cost of ownership at scale,” Nvidia said in a statement.</p>
<div class="lb-trans"><p>Nvidia 在一份声明中表示：“客户继续选择 NVIDIA 进行推理，因为我们在规模上提供最佳性能和总拥有成本。”</p>
</div><p>A spokesperson for OpenAI in a separate statement said the company relies on Nvidia to power the vast majority of its inference fleet and that Nvidia delivers the best performance per dollar for inference.</p>
<div class="lb-trans"><p>OpenAI 的一位发言人在另一份声明中表示，该公司依赖 Nvidia 为其绝大多数推理设备提供动力，并且 Nvidia 在推理方面提供最佳的性价比。</p>
</div><p>Seven sources said that OpenAI is not satisfied with the speed at which Nvidia’s hardware can spit out answers to ChatGPT users for specific types of problems such as software development and AI communicating with other software. It needs new hardware that would eventually provide about 10% of OpenAI’s inference computing needs in the future, one of the sources told Reuters. The ChatGPT maker has discussed working with startups including Cerebras and Groq to provide chips for faster inference, two sources said. But Nvidia struck a $20-billion licensing deal with Groq that shut down OpenAI’s talks, one of the sources told Reuters. Nvidia’s decision to snap up key talent at Groq looked like an effort to shore up a portfolio of technology to better compete in a rapidly changing AI industry, chip industry executives said. Nvidia, in a statement, said that Groq’s intellectual property was highly complementary to Nvidia’s product roadmap.</p>
<div class="lb-trans"><p>七位消息人士表示，OpenAI 对 Nvidia 硬件在特定类型问题（如软件开发和 AI 与其他软件的沟通）上为 ChatGPT 用户提供答案的速度不满意。它需要新的硬件，未来将满足 OpenAI 大约 10% 的推理计算需求，一位消息人士告诉路透社。ChatGPT 制造商已与包括 Cerebras 和 Groq 在内的初创公司讨论合作，以提供更快推理所需的芯片，两位消息人士表示。但 Nvidia 与 Groq 签署了一项价值 200 亿美元的许可协议，终止了 OpenAI 的谈判，一位消息人士告诉路透社。Nvidia 决定收购 Groq 的关键人才，似乎是为了巩固其技术组合，以更好地在快速变化的 AI 行业中竞争，芯片行业高管表示。Nvidia 在一份声明中表示，Groq 的知识产权与 Nvidia 的产品路线图高度互补。</p>
</div><p>NVIDIA ALTERNATIVES Nvidia’s graphics processing chips are well-suited for massive data crunching necessary to train large AI models like ChatGPT that have underpinned the explosive growth of AI globally to date. But AI advancements increasingly focus on using trained models for inference and reasoning, which could be a new, bigger stage of AI, inspiring OpenAI’s efforts. The ChatGPT maker’s search for GPU alternatives since last year focused on companies building chips with large amounts of memory embedded in the same piece of silicon as the rest of the chip, called SRAM. Squishing as much costly SRAM as possible onto each chip can offer speed advantages for chatbots and other AI systems as they crunch requests from millions of users. Inference requires more memory than training because the chip needs to spend relatively more time fetching data from memory than performing mathematical operations. Nvidia and AMD GPU technology relies on external memory, which adds processing time and slows how quickly users can interact with a chatbot.</p>
<div class="lb-trans"><p>NVIDIA 替代方案 Nvidia 的图形处理芯片非常适合进行大规模数据处理，这对于训练大型 AI 模型（如 ChatGPT）至关重要，这些模型支撑了全球 AI 的爆炸性增长。但 AI 的进步越来越集中于使用训练好的模型进行推理和推理，这可能是 AI 的一个新的、更大阶段，激励了 OpenAI 的努力。自去年以来，ChatGPT 制造商对 GPU 替代品的搜索集中在那些在同一块硅片上嵌入大量内存的芯片制造公司，这种内存称为 SRAM。将尽可能多的昂贵 SRAM 压缩到每个芯片上，可以为聊天机器人和其他 AI 系统提供速度优势，因为它们处理来自数百万用户的请求。推理需要比训练更多的内存，因为芯片需要花费相对更多的时间从内存中提取数据，而不是执行数学运算。Nvidia 和 AMD 的 GPU 技术依赖于外部内存，这增加了处理时间并减慢了用户与聊天机器人的互动速度。</p>
</div><p>Inside OpenAI, the issue became particularly visible in Codex, its product for creating computer code, which the company has been aggressively marketing, one of the sources added. OpenAI staff attributed some of Codex’s weakness to Nvidia’s GPU-based hardware, one source said.</p>
<div class="lb-trans"><p>在 OpenAI 内部，这一问题在其创建计算机代码的产品 Codex 中变得尤为明显，该公司一直在积极推广，一位消息人士补充道。OpenAI 员工将 Codex 的一些弱点归因于 Nvidia 的基于 GPU 的硬件，一位消息人士表示。</p>
</div><p>In a January 30 call with reporters, CEO Sam Altman said that customers using OpenAI’s coding models will “put a big premium on speed for coding work.” One way OpenAI will meet that demand is through its recent deal with Cerebras, Altman said, adding that speed is less of an imperative for casual ChatGPT users.</p>
<div class="lb-trans"><p>在 1 月 30 日与记者的电话会议上，首席执行官 Sam Altman 表示，使用 OpenAI 编码模型的客户将 “对编码工作速度给予很高的重视。” OpenAI 将通过与 Cerebras 的最新交易来满足这一需求，Altman 说，并补充说，对于普通 ChatGPT 用户来说，速度的要求则不那么迫切。</p>
</div><p>Competing products such as Anthropic’s Claude and Google’s Gemini benefit from deployments that rely more heavily on the chips Google made in-house, called tensor processing units, or TPUs, which are designed for the sort of calculations required for inference and can offer performance advantages over general-purpose AI chips like the Nvidia-designed GPUs.</p>
<div class="lb-trans"><p>竞争产品如 Anthropic 的 Claude 和谷歌的 Gemini 受益于更依赖谷歌自制芯片（称为张量处理单元，TPU）的部署，这些芯片专为推理所需的计算而设计，并且可以提供比通用 AI 芯片（如 Nvidia 设计的 GPU）更好的性能优势。</p>
</div><p>NVIDIA ON THE MOVE As OpenAI made clear its reservations about Nvidia technology, Nvidia approached companies working on SRAM-heavy chips, including Cerebras and Groq, about a potential acquisition, the people said. Cerebras declined and struck a commercial deal with OpenAI announced last month. Cerebras declined to comment. Groq held talks with OpenAI for a deal to provide computing power and received investor interest to fund the company at a valuation of roughly $14 billion, according to people familiar with the discussions. Groq declined to comment.</p>
<div class="lb-trans"><p>NVIDIA 在行动 当 OpenAI 明确表达对 Nvidia 技术的保留时，Nvidia 接触了包括 Cerebras 和 Groq 在内的致力于 SRAM 重型芯片的公司，探讨潜在的收购，一些知情人士表示。Cerebras 拒绝了，并与 OpenAI 签署了上个月宣布的商业协议。Cerebras 拒绝置评。Groq 与 OpenAI 就提供计算能力的交易进行了谈判，并获得了投资者的兴趣，以大约 140 亿美元的估值为公司融资，根据知情人士的说法。Groq 拒绝置评。</p>
</div><p>But by December, Nvidia moved to license Groq’s tech in a non-exclusive all-cash deal, the sources said. Although the deal would allow other companies to license Groq’s technology, the company is now focusing on selling cloud-based software, as Nvidia hired away Groq’s chip designers.</p>
<div class="lb-trans"><p>但到 12 月，Nvidia 决定以非独占的全现金交易许可 Groq 的技术，消息人士表示。尽管该交易允许其他公司许可 Groq 的技术，但该公司现在专注于销售基于云的软件，因为 Nvidia 挖走了 Groq 的芯片设计师。</p>
</div>

EXCLUSIVE-OpenAI is unsatisfied with some Nvidia chips and looking for alternatives, sources say

- OpenAI 对 Nvidia 的 AI 推理芯片不满，主动寻找替代方案。  
- OpenAI 计划与 AMD、Cerebras 等合作，减少对 Nvidia 的依赖。  
- Nvidia 的行业主导地位面临挑战，谈判进展缓慢。

Reuters

信息科技 ETF - Vanguard

Invesco S&P 500 Equal Weight Tech ETF

高科技指数 ETF - SPDR

GraniteShares 2x Long AMD Daily ETF

全球科技股指数 ETF - iShares

费城交易所 半导体 ETF - iShares

Invesco PHLX Semiconductor ETF

标普半导体 ETF - SPDR

Invesco AI and Next Gen Software ETF

标普生物技术 ETF - SPDR

英伟达

2 倍做多 AMD ETF - Direxion

半导体 ETF - VanEck Vectors

2 倍做多英伟达 ETF - GraniteShares

南方两倍做多英伟达

南方两倍做空英伟达

英伟达期权收益策略 ETF - YieldMax

1 倍做空英伟达 ETF - Direxion

2 倍做多 NVDA ETF - T-Rex

2 倍做空 NVDA ETF - T-Rex

独家消息——据消息人士透露，OpenAI 对某些 NVIDIA 芯片不满意，正在寻求其他替代方案