<p>谷歌的 TorchTPU 旨在增強 TPU 與 PyTorch 的兼容性</p>
<p>谷歌希望幫助 AI 開發者減少對 Nvidia CUDA 生態系統的依賴</p>
<p>TorchTPU 計劃是谷歌吸引更多 AI 芯片客户的戰略之一</p>
<p>作者：Krystal Hu, Kenrick Cai 和 Stephen Nellis</p>
<p>12 月 17 日（路透社）- 根據知情人士的説法，Alphabet（GOOGL.O）的谷歌正在開展一項新計劃，使其人工智能芯片在運行全球最廣泛使用的 AI 軟件框架 PyTorch 時表現更佳，此舉旨在削弱 Nvidia（NVDA.O）在 AI 計算市場的長期主導地位。這項努力是谷歌積極計劃的一部分，旨在使其張量處理單元（TPU）成為 Nvidia 市場領先的 GPU 的可行替代品。TPU 的銷售已成為谷歌雲收入的重要增長引擎，因為谷歌希望向投資者證明其 AI 投資正在產生回報。</p>
<p>但僅靠硬件不足以促進採用。知情人士表示，這項名為 “TorchTPU” 的新計劃旨在消除一個關鍵障礙，使 TPU 芯片完全兼容並對已經使用 PyTorch 軟件構建技術基礎設施的客户友好。谷歌還考慮開源部分軟件，以加速客户的採用。</p>
<p>與早期支持 TPU 上 PyTorch 的嘗試相比，谷歌在 TorchTPU 上投入了更多的組織關注、資源和戰略重要性，因為來自希望採用這些芯片但將軟件堆棧視為瓶頸的公司的需求在增長。</p>
<p>PyTorch 是一個由 Meta Platforms（META.O）大力支持的開源項目，是開發 AI 模型的開發者最廣泛使用的工具之一。在硅谷，很少有開發者編寫每一行代碼，Nvidia、超微（AMD.O）或谷歌的芯片實際上會執行這些代碼。</p>
<p>相反，這些開發者依賴於像 PyTorch 這樣的工具，它是一個預先編寫的代碼庫和框架的集合，自動化了開發 AI 軟件中的許多常見任務。PyTorch 於 2016 年首次發佈，其歷史與 Nvidia 開發的 CUDA 緊密相連，後者被一些華爾街分析師視為該公司對抗競爭對手的最強盾牌。</p>
<p>Nvidia 的工程師花費了多年時間確保使用 PyTorch 開發的軟件在其芯片上運行得儘可能快和高效。相比之下，谷歌長期以來讓其內部的軟件開發團隊使用一種不同的代碼框架 Jax，而其 TPU 芯片使用一種名為 XLA 的工具來高效運行該代碼。谷歌自己的 AI 軟件堆棧和性能優化大多圍繞 Jax 構建，這加大了谷歌使用其芯片與客户希望使用它們之間的差距。</p>
<p>谷歌雲的一位發言人沒有對項目的具體情況發表評論，但向路透社確認這一舉措將為客户提供選擇。</p>
<p>“我們看到對 TPU 和 GPU 基礎設施的需求正在快速增長，” 發言人説。“我們的重點是提供開發者所需的靈活性和規模，無論他們選擇在何種硬件上構建。”</p>
<h3>為客户提供 TPU</h3>
<p>Alphabet 長期以來將其大部分 TPU 芯片僅用於內部使用。2022 年，這一情況發生了變化，谷歌的雲計算部門成功遊説負責銷售 TPU 的團隊。這一舉措大幅增加了谷歌雲的 TPU 分配，隨着客户對 AI 的興趣增長，谷歌希望通過增加 TPU 的生產和銷售來獲利。</p>
<p>但大多數世界 AI 開發者使用的 PyTorch 框架與谷歌的芯片目前最精細調優的 Jax 框架之間的不匹配，意味着大多數開發者無法輕鬆採用谷歌的芯片並使其性能與 Nvidia 的芯片相當，而無需進行大量額外的工程工作。這種工作在快速發展的 AI 競爭中需要時間和金錢。</p>
<p>如果成功，谷歌的 “TorchTPU” 計劃可能會顯著降低希望尋找 Nvidia GPU 替代方案的公司的轉換成本。Nvidia 的主導地位不僅依賴於其硬件，還依賴於其 CUDA 軟件生態系統，該生態系統深深嵌入 PyTorch 中，並已成為公司訓練和運行大型 AI 模型的默認方法。</p>
<p>企業客户告訴谷歌，TPU 在 AI 工作負載中的採用更為困難，因為它們歷史上要求開發者切換到 Jax，而 Jax 是谷歌內部偏愛的機器學習框架，而不是大多數 AI 開發者已經使用的 PyTorch。</p>
<h3>與 Meta 的聯合努力</h3>
<p>為了加速開發，谷歌正與 PyTorch 的創建者和管理者 Meta 密切合作，知情人士表示。這兩家科技巨頭一直在討論 Meta 獲取更多 TPU 的交易，這一舉措最早由《信息》報道。</p>
<p>早期對 Meta 的提供被構建為谷歌管理的服務，客户如 Meta 安裝谷歌設計的芯片，以運行谷歌軟件和模型，谷歌提供運營支持。Meta 對開發使 TPU 更易於運行的軟件有戰略興趣，旨在降低推理成本，並將其 AI 基礎設施從 Nvidia 的 GPU 多樣化，以增強談判能力。</p>
<p>Meta 拒絕對此發表評論。</p>
<p>今年，谷歌已開始直接向客户的數據中心銷售 TPU，而不是僅限於其自己的雲。谷歌老將 Amin Vahdat 本月被任命為 AI 基礎設施負責人，直接向首席執行官 Sundar Pichai 彙報。</p>
<p>谷歌需要這些基礎設施來運行其自己的 AI 產品，包括 Gemini 聊天機器人和 AI 驅動的搜索，併為谷歌雲的客户提供服務，谷歌雲向如 Anthropic 等公司銷售 TPU 的訪問權限。</p>

谷歌-C

1 倍做空谷歌 ETF - Direxion

2 倍做多谷歌 ETF - Direxion

<p>谷歌正在增強其人工智能芯片以支持 PyTorch，旨在減少對 Nvidia CUDA 生態系統的依賴。 "TorchTPU"計劃旨在使谷歌的 TPU 對開發者更加友好，從而吸引人工智能芯片客户。谷歌與 Meta 合作，以提高 TPU 與 PyTorch 的兼容性，挑戰 Nvidia 在人工智能計算領域的主導地位。這一舉措可能降低尋求替代 Nvidia GPU 的公司的轉換成本</p>

<p>Google’s TorchTPU aims to enhance TPU compatibility with PyTorch</p>
<div class="lb-trans"><p>谷歌的 TorchTPU 旨在增強 TPU 與 PyTorch 的兼容性</p>
</div><p>Google seeks to help AI developers reduce reliance on Nvidia’s CUDA ecosystem</p>
<div class="lb-trans"><p>谷歌希望幫助 AI 開發者減少對 Nvidia CUDA 生態系統的依賴</p>
</div><p>TorchTPU initiative is part of Google’s plan to attract more AI chip customers</p>
<div class="lb-trans"><p>TorchTPU 計劃是谷歌吸引更多 AI 芯片客户的戰略之一</p>
</div><p>By Krystal Hu, Kenrick Cai and Stephen Nellis</p>
<div class="lb-trans"><p>作者：Krystal Hu, Kenrick Cai 和 Stephen Nellis</p>
</div><p>Dec 17 (Reuters) - Alphabet’s (GOOGL.O) Google is working on a new initiative to make its artificial intelligence chips better at running PyTorch, the world’s most widely used AI software framework, in a move aimed at weakening Nvidia’s (NVDA.O) longstanding dominance of the AI computing market, according to people familiar with the matter. The effort is part of Google’s aggressive plan to make its Tensor Processing Units a viable alternative to Nvidia’s market-leading GPUs. TPU sales have become a crucial growth engine of Google’s cloud revenue as it seeks to prove to investors that its AI investments are generating returns.</p>
<div class="lb-trans"><p>12 月 17 日（路透社）- 根據知情人士的説法，Alphabet（GOOGL.O）的谷歌正在開展一項新計劃，使其人工智能芯片在運行全球最廣泛使用的 AI 軟件框架 PyTorch 時表現更佳，此舉旨在削弱 Nvidia（NVDA.O）在 AI 計算市場的長期主導地位。這項努力是谷歌積極計劃的一部分，旨在使其張量處理單元（TPU）成為 Nvidia 市場領先的 GPU 的可行替代品。TPU 的銷售已成為谷歌雲收入的重要增長引擎，因為谷歌希望向投資者證明其 AI 投資正在產生回報。</p>
</div><p>But hardware alone is not enough to spur adoption. The new initiative, known internally as “TorchTPU,” aims to remove a key barrier that has slowed adoption of TPU chips by making them fully compatible and developer-friendly for customers who have already built their tech infrastructure using PyTorch software, the sources said. Google is also considering open-sourcing parts of the software to speed uptake among customers, some of the people said.</p>
<div class="lb-trans"><p>但僅靠硬件不足以促進採用。知情人士表示，這項名為 “TorchTPU” 的新計劃旨在消除一個關鍵障礙，使 TPU 芯片完全兼容並對已經使用 PyTorch 軟件構建技術基礎設施的客户友好。谷歌還考慮開源部分軟件，以加速客户的採用。</p>
</div><p>Compared with earlier attempts to support PyTorch on TPUs, Google has devoted more organizational focus, resources and strategic importance to TorchTPU, as demand grows from companies that want to adopt the chips but view the software stack as a bottleneck, the sources said.</p>
<div class="lb-trans"><p>與早期支持 TPU 上 PyTorch 的嘗試相比，谷歌在 TorchTPU 上投入了更多的組織關注、資源和戰略重要性，因為來自希望採用這些芯片但將軟件堆棧視為瓶頸的公司的需求在增長。</p>
</div><p>PyTorch, an open-source project heavily supported by Meta Platforms (META.O) , is one of the most widely used tools for developers who make AI models. In Silicon Valley, very few developers write every line of code that chips from Nvidia, Advanced Micro Devices (AMD.O) or Google will actually execute.</p>
<div class="lb-trans"><p>PyTorch 是一個由 Meta Platforms（META.O）大力支持的開源項目，是開發 AI 模型的開發者最廣泛使用的工具之一。在硅谷，很少有開發者編寫每一行代碼，Nvidia、超微（AMD.O）或谷歌的芯片實際上會執行這些代碼。</p>
</div><p>Instead, those developers rely on tools like PyTorch, which is a collection of pre-written code libraries and frameworks that automate many common tasks in developing AI software. Originally released in 2016, PyTorch’s history has been closely tied to Nvidia’s development of CUDA, the software that some Wall Street analysts regard as the company’s strongest shield against competitors.</p>
<div class="lb-trans"><p>相反，這些開發者依賴於像 PyTorch 這樣的工具，它是一個預先編寫的代碼庫和框架的集合，自動化了開發 AI 軟件中的許多常見任務。PyTorch 於 2016 年首次發佈，其歷史與 Nvidia 開發的 CUDA 緊密相連，後者被一些華爾街分析師視為該公司對抗競爭對手的最強盾牌。</p>
</div><p>Nvidia’s engineers have spent years ensuring that software developed with PyTorch runs as fast and efficiently as possible on its chips. Google, by contrast, has long had its internal armies of software developers use a different code framework called Jax, and its TPU chips use a tool called XLA to make that code run efficiently. Much of Google’s own AI software stack and performance optimization has been built around Jax, widening the gap between how Google uses its chips and how customers want to use them.</p>
<div class="lb-trans"><p>Nvidia 的工程師花費了多年時間確保使用 PyTorch 開發的軟件在其芯片上運行得儘可能快和高效。相比之下，谷歌長期以來讓其內部的軟件開發團隊使用一種不同的代碼框架 Jax，而其 TPU 芯片使用一種名為 XLA 的工具來高效運行該代碼。谷歌自己的 AI 軟件堆棧和性能優化大多圍繞 Jax 構建，這加大了谷歌使用其芯片與客户希望使用它們之間的差距。</p>
</div><p>A Google Cloud spokesperson did not comment on the specifics of the project, but confirmed to Reuters that the move would provide customers with choice.</p>
<div class="lb-trans"><p>谷歌雲的一位發言人沒有對項目的具體情況發表評論，但向路透社確認這一舉措將為客户提供選擇。</p>
</div><p>“We are seeing massive, accelerating demand for both our TPU and GPU infrastructure,” the spokesperson said. “Our focus is providing the flexibility and scale developers need, regardless of the hardware they choose to build on.”</p>
<div class="lb-trans"><p>“我們看到對 TPU 和 GPU 基礎設施的需求正在快速增長，” 發言人説。“我們的重點是提供開發者所需的靈活性和規模，無論他們選擇在何種硬件上構建。”</p>
</div><h3>TPU FOR CUSTOMERS</h3>
<div class="lb-trans"><h3>為客户提供 TPU</h3>
</div><p>Alphabet had long reserved the lion’s share of its own chips, or TPUs, for in-house use only. That changed in 2022, when Google’s cloud computing unit successfully lobbied to oversee the group that sells TPUs. The move drastically increased Google Cloud’s allocation of TPUs and as customers’ interest in AI has grown, Google has sought to capitalize by ramping up production and sales of TPUs to external customers.</p>
<div class="lb-trans"><p>Alphabet 長期以來將其大部分 TPU 芯片僅用於內部使用。2022 年，這一情況發生了變化，谷歌的雲計算部門成功遊説負責銷售 TPU 的團隊。這一舉措大幅增加了谷歌雲的 TPU 分配，隨着客户對 AI 的興趣增長，谷歌希望通過增加 TPU 的生產和銷售來獲利。</p>
</div><p>But the mismatch between the PyTorch frameworks used by most of the world’s AI developers and the Jax frameworks that Google’s chips are currently most finely tuned to run means that most developers cannot easily adopt Google’s chips and get them to perform as well as Nvidia’s without undertaking significant, extra engineering work. Such work takes time and money in the fast-paced AI race.</p>
<div class="lb-trans"><p>但大多數世界 AI 開發者使用的 PyTorch 框架與谷歌的芯片目前最精細調優的 Jax 框架之間的不匹配，意味着大多數開發者無法輕鬆採用谷歌的芯片並使其性能與 Nvidia 的芯片相當，而無需進行大量額外的工程工作。這種工作在快速發展的 AI 競爭中需要時間和金錢。</p>
</div><p>If successful, Google’s “TorchTPU” initiative could significantly reduce switching costs for companies that want alternatives to Nvidia’s GPUs. Nvidia’s dominance has been reinforced not only by its hardware but by its CUDA software ecosystem, which is deeply embedded in PyTorch and has become the default method by which companies train and run large AI models.</p>
<div class="lb-trans"><p>如果成功，谷歌的 “TorchTPU” 計劃可能會顯著降低希望尋找 Nvidia GPU 替代方案的公司的轉換成本。Nvidia 的主導地位不僅依賴於其硬件，還依賴於其 CUDA 軟件生態系統，該生態系統深深嵌入 PyTorch 中，並已成為公司訓練和運行大型 AI 模型的默認方法。</p>
</div><p>Enterprise customers have been telling Google that TPUs are harder to adopt for AI workloads because they historically required developers to switch to Jax, a machine-learning framework favored internally at Google, rather than PyTorch, which most AI developers already use, the sources said.</p>
<div class="lb-trans"><p>企業客户告訴谷歌，TPU 在 AI 工作負載中的採用更為困難，因為它們歷史上要求開發者切換到 Jax，而 Jax 是谷歌內部偏愛的機器學習框架，而不是大多數 AI 開發者已經使用的 PyTorch。</p>
</div><h3>JOINT EFFORTS WITH META</h3>
<div class="lb-trans"><h3>與 Meta 的聯合努力</h3>
</div><p>To speed development, Google is working closely with Meta, the creator and steward of PyTorch, according to the sources. The two tech giants have been discussing deals for Meta to access more TPUs, a move first reported by The Information.</p>
<div class="lb-trans"><p>為了加速開發，谷歌正與 PyTorch 的創建者和管理者 Meta 密切合作，知情人士表示。這兩家科技巨頭一直在討論 Meta 獲取更多 TPU 的交易，這一舉措最早由《信息》報道。</p>
</div><p>Early offerings for Meta were structured as Google-managed services, in which customers like Meta installed Google’s chips designed to run Google software and models, with Google providing operational support. Meta has a strategic interest in working on software that makes it easier to run TPUs, in a bid to lower inference costs and diversify its AI infrastructure away from Nvidia’s GPUs to gain negotiating power, the people said.</p>
<div class="lb-trans"><p>早期對 Meta 的提供被構建為谷歌管理的服務，客户如 Meta 安裝谷歌設計的芯片，以運行谷歌軟件和模型，谷歌提供運營支持。Meta 對開發使 TPU 更易於運行的軟件有戰略興趣，旨在降低推理成本，並將其 AI 基礎設施從 Nvidia 的 GPU 多樣化，以增強談判能力。</p>
</div><p>Meta declined to comment.</p>
<div class="lb-trans"><p>Meta 拒絕對此發表評論。</p>
</div><p>This year, Google has begun selling TPUs directly into customers’ data centers rather than limiting access to its own cloud. Amin Vahdat, a Google veteran, was named head of AI infrastructure this month, reporting directly to CEO Sundar Pichai.</p>
<div class="lb-trans"><p>今年，谷歌已開始直接向客户的數據中心銷售 TPU，而不是僅限於其自己的雲。谷歌老將 Amin Vahdat 本月被任命為 AI 基礎設施負責人，直接向首席執行官 Sundar Pichai 彙報。</p>
</div><p>Google needs that infrastructure both to run its own AI products, including the Gemini chatbot and AI-powered search, and to supply customers of Google Cloud, which sells access to TPUs to companies such as Anthropic.</p>
<div class="lb-trans"><p>谷歌需要這些基礎設施來運行其自己的 AI 產品，包括 Gemini 聊天機器人和 AI 驅動的搜索，併為谷歌雲的客户提供服務，谷歌雲向如 Anthropic 等公司銷售 TPU 的訪問權限。</p>
</div>

EXCLUSIVE-Google works to erode Nvidia's software advantage with Meta's help

- 谷歌推出 “ TorchTPU” 計劃，旨在提高 TPU 與 PyTorch 的兼容性。  
- 此舉旨在削弱 Nvidia 在 AI 計算市場的主導地位，吸引更多客户。  
- Google Cloud 希望通過增加 TPU 生產和銷售，滿足 AI 開發者的需求。

獨家報道 - 谷歌與 Meta 合作，致力於削弱 Nvidia 的軟件優勢