<p>OpenAI 尋求替代 Nvidia 的 AI 推理芯片</p>
<p>Nvidia 對 OpenAI 的 1000 億美元投資被推遲</p>
<p>OpenAI 探索與 AMD、Cerebras 和 Groq 的交易</p>
<p>作者：Max A. Cherney, Krystal Hu 和 Deepa Seetharaman</p>
<p>舊金山，2 月 2 日（路透社）—— OpenAI 對 Nvidia 最新的人工智能芯片不滿意，自去年以來一直在尋求替代方案，八位知情人士表示，這可能會使這兩家在 AI 熱潮中最引人注目的公司之間的關係變得複雜。ChatGPT 製造商的戰略轉變，首次在此報道，主要是因為對用於執行 AI 推理特定元素的芯片的日益重視，推理是指像 ChatGPT 應用程序這樣的 AI 模型響應客户查詢和請求的過程。Nvidia 在訓練大型 AI 模型的芯片市場中仍然佔據主導地位，而推理已成為競爭的新前沿。</p>
<p>OpenAI 的這一決定</p>
<p>以及其他公司</p>
<p>在推理芯片市場尋求替代方案，標誌着對 Nvidia AI 主導地位的重大考驗，並且正值兩家公司進行投資談判之際。去年 9 月，Nvidia 表示計劃向 OpenAI 投資多達 1000 億美元，作為一項交易的一部分，使這家芯片製造商獲得了該初創公司的股份，併為 OpenAI 提供了購買先進芯片所需的現金。路透社報道，該交易預計將在幾周內完成。然而，談判已經拖延了數月。在此期間，OpenAI 與 AMD（AMD.O）等公司達成了針對與 Nvidia 競爭的 GPU 的交易。但其不斷變化的產品路線圖也改變了其所需的計算資源，並使與 Nvidia 的談判陷入僵局，一位知情人士表示。週六，Nvidia 首席執行官黃仁勳對與 OpenAI 的緊張關係的報道不以為然，稱這一想法是 “無稽之談”，並表示 Nvidia 計劃對 OpenAI 進行大規模投資。</p>
<p>Nvidia 在一份聲明中表示：“客户繼續選擇 NVIDIA 進行推理，因為我們在規模上提供最佳性能和總擁有成本。”</p>
<p>OpenAI 的一位發言人在另一份聲明中表示，該公司依賴 Nvidia 為其絕大多數推理設備提供動力，並且 Nvidia 在推理方面提供最佳的性價比。</p>
<p>七位消息人士表示，OpenAI 對 Nvidia 硬件在特定類型問題（如軟件開發和 AI 與其他軟件的溝通）上為 ChatGPT 用户提供答案的速度不滿意。它需要新的硬件，未來將滿足 OpenAI 大約 10% 的推理計算需求，一位消息人士告訴路透社。ChatGPT 製造商已與包括 Cerebras 和 Groq 在內的初創公司討論合作，以提供更快推理所需的芯片，兩位消息人士表示。但 Nvidia 與 Groq 簽署了一項價值 200 億美元的許可協議，終止了 OpenAI 的談判，一位消息人士告訴路透社。Nvidia 決定收購 Groq 的關鍵人才，似乎是為了鞏固其技術組合，以更好地在快速變化的 AI 行業中競爭，芯片行業高管表示。Nvidia 在一份聲明中表示，Groq 的知識產權與 Nvidia 的產品路線圖高度互補。</p>
<p>NVIDIA 替代方案 Nvidia 的圖形處理芯片非常適合進行大規模數據處理，這對於訓練大型 AI 模型（如 ChatGPT）至關重要，這些模型支撐了全球 AI 的爆炸性增長。但 AI 的進步越來越集中於使用訓練好的模型進行推理和推理，這可能是 AI 的一個新的、更大階段，激勵了 OpenAI 的努力。自去年以來，ChatGPT 製造商對 GPU 替代品的搜索集中在那些在同一塊硅片上嵌入大量內存的芯片製造公司，這種內存稱為 SRAM。將盡可能多的昂貴 SRAM 壓縮到每個芯片上，可以為聊天機器人和其他 AI 系統提供速度優勢，因為它們處理來自數百萬用户的請求。推理需要比訓練更多的內存，因為芯片需要花費相對更多的時間從內存中提取數據，而不是執行數學運算。Nvidia 和 AMD 的 GPU 技術依賴於外部內存，這增加了處理時間並減慢了用户與聊天機器人的互動速度。</p>
<p>在 OpenAI 內部，這一問題在其創建計算機代碼的產品 Codex 中變得尤為明顯，該公司一直在積極推廣，一位消息人士補充道。OpenAI 員工將 Codex 的一些弱點歸因於 Nvidia 的基於 GPU 的硬件，一位消息人士表示。</p>
<p>在 1 月 30 日與記者的電話會議上，首席執行官 Sam Altman 表示，使用 OpenAI 編碼模型的客户將 “對編碼工作速度給予很高的重視。” OpenAI 將通過與 Cerebras 的最新交易來滿足這一需求，Altman 説，並補充説，對於普通 ChatGPT 用户來説，速度的要求則不那麼迫切。</p>
<p>競爭產品如 Anthropic 的 Claude 和谷歌的 Gemini 受益於更依賴谷歌自制芯片（稱為張量處理單元，TPU）的部署，這些芯片專為推理所需的計算而設計，並且可以提供比通用 AI 芯片（如 Nvidia 設計的 GPU）更好的性能優勢。</p>
<p>NVIDIA 在行動 當 OpenAI 明確表達對 Nvidia 技術的保留時，Nvidia 接觸了包括 Cerebras 和 Groq 在內的致力於 SRAM 重型芯片的公司，探討潛在的收購，一些知情人士表示。Cerebras 拒絕了，並與 OpenAI 簽署了上個月宣佈的商業協議。Cerebras 拒絕置評。Groq 與 OpenAI 就提供計算能力的交易進行了談判，並獲得了投資者的興趣，以大約 140 億美元的估值為公司融資，根據知情人士的説法。Groq 拒絕置評。</p>
<p>但到 12 月，Nvidia 決定以非獨佔的全現金交易許可 Groq 的技術，消息人士表示。儘管該交易允許其他公司許可 Groq 的技術，但該公司現在專注於銷售基於雲的軟件，因為 Nvidia 挖走了 Groq 的芯片設計師。</p>

半導體 3 倍做多 - Direxion

OpenAI

<p>OpenAI seeks alternatives to Nvidia for AI inference chips</p>
<div class="lb-trans"><p>OpenAI 尋求替代 Nvidia 的 AI 推理芯片</p>
</div><p>Nvidia’s $100 billion investment in OpenAI delayed</p>
<div class="lb-trans"><p>Nvidia 對 OpenAI 的 1000 億美元投資被推遲</p>
</div><p>OpenAI explored deals with AMD, Cerebras, and Groq</p>
<div class="lb-trans"><p>OpenAI 探索與 AMD、Cerebras 和 Groq 的交易</p>
</div><p>By Max A. Cherney, Krystal Hu and Deepa Seetharaman</p>
<div class="lb-trans"><p>作者：Max A. Cherney, Krystal Hu 和 Deepa Seetharaman</p>
</div><p>SAN FRANCISCO, Feb 2 (Reuters) - OpenAI is unsatisfied with some of Nvidia’s latest artificial intelligence chips, and it has sought alternatives since last year, eight sources familiar with the matter said, potentially complicating the relationship between the two highest-profile players in the AI boom. The ChatGPT-maker’s shift in strategy, the details of which are first reported here, is over an increasing emphasis on chips used to perform specific elements of AI inference, the process when an AI model such as the one that powers the ChatGPT app responds to customer queries and requests. Nvidia remains dominant in chips for training large AI models, while inference has become a new front in the competition.</p>
<div class="lb-trans"><p>舊金山，2 月 2 日（路透社）—— OpenAI 對 Nvidia 最新的人工智能芯片不滿意，自去年以來一直在尋求替代方案，八位知情人士表示，這可能會使這兩家在 AI 熱潮中最引人注目的公司之間的關係變得複雜。ChatGPT 製造商的戰略轉變，首次在此報道，主要是因為對用於執行 AI 推理特定元素的芯片的日益重視，推理是指像 ChatGPT 應用程序這樣的 AI 模型響應客户查詢和請求的過程。Nvidia 在訓練大型 AI 模型的芯片市場中仍然佔據主導地位，而推理已成為競爭的新前沿。</p>
</div><p>This decision by OpenAI</p>
<div class="lb-trans"><p>OpenAI 的這一決定</p>
</div><p>and others</p>
<div class="lb-trans"><p>以及其他公司</p>
</div><p>to seek out alternatives in the inference chip market marks a significant test of Nvidia’s AI dominance and comes as the two companies are in investment talks. In September, Nvidia said it intended to pour as much as $100 billion into OpenAI as part of a deal that gave the chipmaker a stake in the startup and gave OpenAI the cash it needed to buy the advanced chips. The deal had been expected to close within weeks, Reuters reported. Instead, negotiations have dragged on for months. During that time, OpenAI has struck deals with AMD (AMD.O) and others for GPUs built to rival Nvidia’s. But its shifting product road map also has changed the kind of computational resources it requires and bogged down talks with Nvidia, a person familiar with the matter said. On Saturday, Nvidia CEO Jensen Huang brushed off a report of tension with OpenAI, saying the idea was “nonsense” and that Nvidia planned a huge investment in OpenAI.</p>
<div class="lb-trans"><p>在推理芯片市場尋求替代方案，標誌着對 Nvidia AI 主導地位的重大考驗，並且正值兩家公司進行投資談判之際。去年 9 月，Nvidia 表示計劃向 OpenAI 投資多達 1000 億美元，作為一項交易的一部分，使這家芯片製造商獲得了該初創公司的股份，併為 OpenAI 提供了購買先進芯片所需的現金。路透社報道，該交易預計將在幾周內完成。然而，談判已經拖延了數月。在此期間，OpenAI 與 AMD（AMD.O）等公司達成了針對與 Nvidia 競爭的 GPU 的交易。但其不斷變化的產品路線圖也改變了其所需的計算資源，並使與 Nvidia 的談判陷入僵局，一位知情人士表示。週六，Nvidia 首席執行官黃仁勳對與 OpenAI 的緊張關係的報道不以為然，稱這一想法是 “無稽之談”，並表示 Nvidia 計劃對 OpenAI 進行大規模投資。</p>
</div><p>“Customers continue to choose NVIDIA for inference because we deliver the best performance and total cost of ownership at scale,” Nvidia said in a statement.</p>
<div class="lb-trans"><p>Nvidia 在一份聲明中表示：“客户繼續選擇 NVIDIA 進行推理，因為我們在規模上提供最佳性能和總擁有成本。”</p>
</div><p>A spokesperson for OpenAI in a separate statement said the company relies on Nvidia to power the vast majority of its inference fleet and that Nvidia delivers the best performance per dollar for inference.</p>
<div class="lb-trans"><p>OpenAI 的一位發言人在另一份聲明中表示，該公司依賴 Nvidia 為其絕大多數推理設備提供動力，並且 Nvidia 在推理方面提供最佳的性價比。</p>
</div><p>Seven sources said that OpenAI is not satisfied with the speed at which Nvidia’s hardware can spit out answers to ChatGPT users for specific types of problems such as software development and AI communicating with other software. It needs new hardware that would eventually provide about 10% of OpenAI’s inference computing needs in the future, one of the sources told Reuters. The ChatGPT maker has discussed working with startups including Cerebras and Groq to provide chips for faster inference, two sources said. But Nvidia struck a $20-billion licensing deal with Groq that shut down OpenAI’s talks, one of the sources told Reuters. Nvidia’s decision to snap up key talent at Groq looked like an effort to shore up a portfolio of technology to better compete in a rapidly changing AI industry, chip industry executives said. Nvidia, in a statement, said that Groq’s intellectual property was highly complementary to Nvidia’s product roadmap.</p>
<div class="lb-trans"><p>七位消息人士表示，OpenAI 對 Nvidia 硬件在特定類型問題（如軟件開發和 AI 與其他軟件的溝通）上為 ChatGPT 用户提供答案的速度不滿意。它需要新的硬件，未來將滿足 OpenAI 大約 10% 的推理計算需求，一位消息人士告訴路透社。ChatGPT 製造商已與包括 Cerebras 和 Groq 在內的初創公司討論合作，以提供更快推理所需的芯片，兩位消息人士表示。但 Nvidia 與 Groq 簽署了一項價值 200 億美元的許可協議，終止了 OpenAI 的談判，一位消息人士告訴路透社。Nvidia 決定收購 Groq 的關鍵人才，似乎是為了鞏固其技術組合，以更好地在快速變化的 AI 行業中競爭，芯片行業高管表示。Nvidia 在一份聲明中表示，Groq 的知識產權與 Nvidia 的產品路線圖高度互補。</p>
</div><p>NVIDIA ALTERNATIVES Nvidia’s graphics processing chips are well-suited for massive data crunching necessary to train large AI models like ChatGPT that have underpinned the explosive growth of AI globally to date. But AI advancements increasingly focus on using trained models for inference and reasoning, which could be a new, bigger stage of AI, inspiring OpenAI’s efforts. The ChatGPT maker’s search for GPU alternatives since last year focused on companies building chips with large amounts of memory embedded in the same piece of silicon as the rest of the chip, called SRAM. Squishing as much costly SRAM as possible onto each chip can offer speed advantages for chatbots and other AI systems as they crunch requests from millions of users. Inference requires more memory than training because the chip needs to spend relatively more time fetching data from memory than performing mathematical operations. Nvidia and AMD GPU technology relies on external memory, which adds processing time and slows how quickly users can interact with a chatbot.</p>
<div class="lb-trans"><p>NVIDIA 替代方案 Nvidia 的圖形處理芯片非常適合進行大規模數據處理，這對於訓練大型 AI 模型（如 ChatGPT）至關重要，這些模型支撐了全球 AI 的爆炸性增長。但 AI 的進步越來越集中於使用訓練好的模型進行推理和推理，這可能是 AI 的一個新的、更大階段，激勵了 OpenAI 的努力。自去年以來，ChatGPT 製造商對 GPU 替代品的搜索集中在那些在同一塊硅片上嵌入大量內存的芯片製造公司，這種內存稱為 SRAM。將盡可能多的昂貴 SRAM 壓縮到每個芯片上，可以為聊天機器人和其他 AI 系統提供速度優勢，因為它們處理來自數百萬用户的請求。推理需要比訓練更多的內存，因為芯片需要花費相對更多的時間從內存中提取數據，而不是執行數學運算。Nvidia 和 AMD 的 GPU 技術依賴於外部內存，這增加了處理時間並減慢了用户與聊天機器人的互動速度。</p>
</div><p>Inside OpenAI, the issue became particularly visible in Codex, its product for creating computer code, which the company has been aggressively marketing, one of the sources added. OpenAI staff attributed some of Codex’s weakness to Nvidia’s GPU-based hardware, one source said.</p>
<div class="lb-trans"><p>在 OpenAI 內部，這一問題在其創建計算機代碼的產品 Codex 中變得尤為明顯，該公司一直在積極推廣，一位消息人士補充道。OpenAI 員工將 Codex 的一些弱點歸因於 Nvidia 的基於 GPU 的硬件，一位消息人士表示。</p>
</div><p>In a January 30 call with reporters, CEO Sam Altman said that customers using OpenAI’s coding models will “put a big premium on speed for coding work.” One way OpenAI will meet that demand is through its recent deal with Cerebras, Altman said, adding that speed is less of an imperative for casual ChatGPT users.</p>
<div class="lb-trans"><p>在 1 月 30 日與記者的電話會議上，首席執行官 Sam Altman 表示，使用 OpenAI 編碼模型的客户將 “對編碼工作速度給予很高的重視。” OpenAI 將通過與 Cerebras 的最新交易來滿足這一需求，Altman 説，並補充説，對於普通 ChatGPT 用户來説，速度的要求則不那麼迫切。</p>
</div><p>Competing products such as Anthropic’s Claude and Google’s Gemini benefit from deployments that rely more heavily on the chips Google made in-house, called tensor processing units, or TPUs, which are designed for the sort of calculations required for inference and can offer performance advantages over general-purpose AI chips like the Nvidia-designed GPUs.</p>
<div class="lb-trans"><p>競爭產品如 Anthropic 的 Claude 和谷歌的 Gemini 受益於更依賴谷歌自制芯片（稱為張量處理單元，TPU）的部署，這些芯片專為推理所需的計算而設計，並且可以提供比通用 AI 芯片（如 Nvidia 設計的 GPU）更好的性能優勢。</p>
</div><p>NVIDIA ON THE MOVE As OpenAI made clear its reservations about Nvidia technology, Nvidia approached companies working on SRAM-heavy chips, including Cerebras and Groq, about a potential acquisition, the people said. Cerebras declined and struck a commercial deal with OpenAI announced last month. Cerebras declined to comment. Groq held talks with OpenAI for a deal to provide computing power and received investor interest to fund the company at a valuation of roughly $14 billion, according to people familiar with the discussions. Groq declined to comment.</p>
<div class="lb-trans"><p>NVIDIA 在行動 當 OpenAI 明確表達對 Nvidia 技術的保留時，Nvidia 接觸了包括 Cerebras 和 Groq 在內的致力於 SRAM 重型芯片的公司，探討潛在的收購，一些知情人士表示。Cerebras 拒絕了，並與 OpenAI 簽署了上個月宣佈的商業協議。Cerebras 拒絕置評。Groq 與 OpenAI 就提供計算能力的交易進行了談判，並獲得了投資者的興趣，以大約 140 億美元的估值為公司融資，根據知情人士的説法。Groq 拒絕置評。</p>
</div><p>But by December, Nvidia moved to license Groq’s tech in a non-exclusive all-cash deal, the sources said. Although the deal would allow other companies to license Groq’s technology, the company is now focusing on selling cloud-based software, as Nvidia hired away Groq’s chip designers.</p>
<div class="lb-trans"><p>但到 12 月，Nvidia 決定以非獨佔的全現金交易許可 Groq 的技術，消息人士表示。儘管該交易允許其他公司許可 Groq 的技術，但該公司現在專注於銷售基於雲的軟件，因為 Nvidia 挖走了 Groq 的芯片設計師。</p>
</div>

EXCLUSIVE-OpenAI is unsatisfied with some Nvidia chips and looking for alternatives, sources say

- OpenAI 對 Nvidia 的 AI 推理芯片不滿，主動尋找替代方案。  
- OpenAI 計劃與 AMD、Cerebras 等合作，減少對 Nvidia 的依賴。  
- Nvidia 的行業主導地位面臨挑戰，談判進展緩慢。

Reuters

信息科技 ETF - Vanguard

Invesco S&P 500 Equal Weight Tech ETF

高科技指數 ETF - SPDR

GraniteShares 2x Long AMD Daily ETF

全球科技股指數 ETF - iShares

費城交易所 半導體 ETF - iShares

Invesco PHLX Semiconductor ETF

標普半導體 ETF - SPDR

Invesco AI and Next Gen Software ETF

標普生物技術 ETF - SPDR

英偉達

2 倍做多 AMD ETF - Direxion

半導體 ETF - VanEck Vectors

2 倍做多英偉達 ETF - GraniteShares

南方兩倍做多英偉達

南方兩倍做空英偉達

英偉達期權收益策略 ETF - YieldMax

1 倍做空英偉達 ETF - Direxion

2 倍做多 NVDA ETF - T-Rex

2 倍做空 NVDA ETF - T-Rex

獨家消息——據消息人士透露，OpenAI 對某些 NVIDIA 芯片不滿意，正在尋求其他替代方案