<p>谷歌的 TorchTPU 旨在增强 TPU 与 PyTorch 的兼容性</p>
<p>谷歌希望帮助 AI 开发者减少对 Nvidia CUDA 生态系统的依赖</p>
<p>TorchTPU 计划是谷歌吸引更多 AI 芯片客户的战略之一</p>
<p>作者：Krystal Hu, Kenrick Cai 和 Stephen Nellis</p>
<p>12 月 17 日（路透社）- 根据知情人士的说法，Alphabet（GOOGL.O）的谷歌正在开展一项新计划，使其人工智能芯片在运行全球最广泛使用的 AI 软件框架 PyTorch 时表现更佳，此举旨在削弱 Nvidia（NVDA.O）在 AI 计算市场的长期主导地位。这项努力是谷歌积极计划的一部分，旨在使其张量处理单元（TPU）成为 Nvidia 市场领先的 GPU 的可行替代品。TPU 的销售已成为谷歌云收入的重要增长引擎，因为谷歌希望向投资者证明其 AI 投资正在产生回报。</p>
<p>但仅靠硬件不足以促进采用。知情人士表示，这项名为 “TorchTPU” 的新计划旨在消除一个关键障碍，使 TPU 芯片完全兼容并对已经使用 PyTorch 软件构建技术基础设施的客户友好。谷歌还考虑开源部分软件，以加速客户的采用。</p>
<p>与早期支持 TPU 上 PyTorch 的尝试相比，谷歌在 TorchTPU 上投入了更多的组织关注、资源和战略重要性，因为来自希望采用这些芯片但将软件堆栈视为瓶颈的公司的需求在增长。</p>
<p>PyTorch 是一个由 Meta Platforms（META.O）大力支持的开源项目，是开发 AI 模型的开发者最广泛使用的工具之一。在硅谷，很少有开发者编写每一行代码，Nvidia、超微（AMD.O）或谷歌的芯片实际上会执行这些代码。</p>
<p>相反，这些开发者依赖于像 PyTorch 这样的工具，它是一个预先编写的代码库和框架的集合，自动化了开发 AI 软件中的许多常见任务。PyTorch 于 2016 年首次发布，其历史与 Nvidia 开发的 CUDA 紧密相连，后者被一些华尔街分析师视为该公司对抗竞争对手的最强盾牌。</p>
<p>Nvidia 的工程师花费了多年时间确保使用 PyTorch 开发的软件在其芯片上运行得尽可能快和高效。相比之下，谷歌长期以来让其内部的软件开发团队使用一种不同的代码框架 Jax，而其 TPU 芯片使用一种名为 XLA 的工具来高效运行该代码。谷歌自己的 AI 软件堆栈和性能优化大多围绕 Jax 构建，这加大了谷歌使用其芯片与客户希望使用它们之间的差距。</p>
<p>谷歌云的一位发言人没有对项目的具体情况发表评论，但向路透社确认这一举措将为客户提供选择。</p>
<p>“我们看到对 TPU 和 GPU 基础设施的需求正在快速增长，” 发言人说。“我们的重点是提供开发者所需的灵活性和规模，无论他们选择在何种硬件上构建。”</p>
<h3>为客户提供 TPU</h3>
<p>Alphabet 长期以来将其大部分 TPU 芯片仅用于内部使用。2022 年，这一情况发生了变化，谷歌的云计算部门成功游说负责销售 TPU 的团队。这一举措大幅增加了谷歌云的 TPU 分配，随着客户对 AI 的兴趣增长，谷歌希望通过增加 TPU 的生产和销售来获利。</p>
<p>但大多数世界 AI 开发者使用的 PyTorch 框架与谷歌的芯片目前最精细调优的 Jax 框架之间的不匹配，意味着大多数开发者无法轻松采用谷歌的芯片并使其性能与 Nvidia 的芯片相当，而无需进行大量额外的工程工作。这种工作在快速发展的 AI 竞争中需要时间和金钱。</p>
<p>如果成功，谷歌的 “TorchTPU” 计划可能会显著降低希望寻找 Nvidia GPU 替代方案的公司的转换成本。Nvidia 的主导地位不仅依赖于其硬件，还依赖于其 CUDA 软件生态系统，该生态系统深深嵌入 PyTorch 中，并已成为公司训练和运行大型 AI 模型的默认方法。</p>
<p>企业客户告诉谷歌，TPU 在 AI 工作负载中的采用更为困难，因为它们历史上要求开发者切换到 Jax，而 Jax 是谷歌内部偏爱的机器学习框架，而不是大多数 AI 开发者已经使用的 PyTorch。</p>
<h3>与 Meta 的联合努力</h3>
<p>为了加速开发，谷歌正与 PyTorch 的创建者和管理者 Meta 密切合作，知情人士表示。这两家科技巨头一直在讨论 Meta 获取更多 TPU 的交易，这一举措最早由《信息》报道。</p>
<p>早期对 Meta 的提供被构建为谷歌管理的服务，客户如 Meta 安装谷歌设计的芯片，以运行谷歌软件和模型，谷歌提供运营支持。Meta 对开发使 TPU 更易于运行的软件有战略兴趣，旨在降低推理成本，并将其 AI 基础设施从 Nvidia 的 GPU 多样化，以增强谈判能力。</p>
<p>Meta 拒绝对此发表评论。</p>
<p>今年，谷歌已开始直接向客户的数据中心销售 TPU，而不是仅限于其自己的云。谷歌老将 Amin Vahdat 本月被任命为 AI 基础设施负责人，直接向首席执行官 Sundar Pichai 汇报。</p>
<p>谷歌需要这些基础设施来运行其自己的 AI 产品，包括 Gemini 聊天机器人和 AI 驱动的搜索，并为谷歌云的客户提供服务，谷歌云向如 Anthropic 等公司销售 TPU 的访问权限。</p>

谷歌-C

1 倍做空谷歌 ETF - Direxion

2 倍做多谷歌 ETF - Direxion

<p>谷歌正在增强其人工智能芯片以支持 PyTorch，旨在减少对 Nvidia CUDA 生态系统的依赖。 "TorchTPU"计划旨在使谷歌的 TPU 对开发者更加友好，从而吸引人工智能芯片客户。谷歌与 Meta 合作，以提高 TPU 与 PyTorch 的兼容性，挑战 Nvidia 在人工智能计算领域的主导地位。这一举措可能降低寻求替代 Nvidia GPU 的公司的转换成本</p>

<p>Google’s TorchTPU aims to enhance TPU compatibility with PyTorch</p>
<div class="lb-trans"><p>谷歌的 TorchTPU 旨在增强 TPU 与 PyTorch 的兼容性</p>
</div><p>Google seeks to help AI developers reduce reliance on Nvidia’s CUDA ecosystem</p>
<div class="lb-trans"><p>谷歌希望帮助 AI 开发者减少对 Nvidia CUDA 生态系统的依赖</p>
</div><p>TorchTPU initiative is part of Google’s plan to attract more AI chip customers</p>
<div class="lb-trans"><p>TorchTPU 计划是谷歌吸引更多 AI 芯片客户的战略之一</p>
</div><p>By Krystal Hu, Kenrick Cai and Stephen Nellis</p>
<div class="lb-trans"><p>作者：Krystal Hu, Kenrick Cai 和 Stephen Nellis</p>
</div><p>Dec 17 (Reuters) - Alphabet’s (GOOGL.O) Google is working on a new initiative to make its artificial intelligence chips better at running PyTorch, the world’s most widely used AI software framework, in a move aimed at weakening Nvidia’s (NVDA.O) longstanding dominance of the AI computing market, according to people familiar with the matter. The effort is part of Google’s aggressive plan to make its Tensor Processing Units a viable alternative to Nvidia’s market-leading GPUs. TPU sales have become a crucial growth engine of Google’s cloud revenue as it seeks to prove to investors that its AI investments are generating returns.</p>
<div class="lb-trans"><p>12 月 17 日（路透社）- 根据知情人士的说法，Alphabet（GOOGL.O）的谷歌正在开展一项新计划，使其人工智能芯片在运行全球最广泛使用的 AI 软件框架 PyTorch 时表现更佳，此举旨在削弱 Nvidia（NVDA.O）在 AI 计算市场的长期主导地位。这项努力是谷歌积极计划的一部分，旨在使其张量处理单元（TPU）成为 Nvidia 市场领先的 GPU 的可行替代品。TPU 的销售已成为谷歌云收入的重要增长引擎，因为谷歌希望向投资者证明其 AI 投资正在产生回报。</p>
</div><p>But hardware alone is not enough to spur adoption. The new initiative, known internally as “TorchTPU,” aims to remove a key barrier that has slowed adoption of TPU chips by making them fully compatible and developer-friendly for customers who have already built their tech infrastructure using PyTorch software, the sources said. Google is also considering open-sourcing parts of the software to speed uptake among customers, some of the people said.</p>
<div class="lb-trans"><p>但仅靠硬件不足以促进采用。知情人士表示，这项名为 “TorchTPU” 的新计划旨在消除一个关键障碍，使 TPU 芯片完全兼容并对已经使用 PyTorch 软件构建技术基础设施的客户友好。谷歌还考虑开源部分软件，以加速客户的采用。</p>
</div><p>Compared with earlier attempts to support PyTorch on TPUs, Google has devoted more organizational focus, resources and strategic importance to TorchTPU, as demand grows from companies that want to adopt the chips but view the software stack as a bottleneck, the sources said.</p>
<div class="lb-trans"><p>与早期支持 TPU 上 PyTorch 的尝试相比，谷歌在 TorchTPU 上投入了更多的组织关注、资源和战略重要性，因为来自希望采用这些芯片但将软件堆栈视为瓶颈的公司的需求在增长。</p>
</div><p>PyTorch, an open-source project heavily supported by Meta Platforms (META.O) , is one of the most widely used tools for developers who make AI models. In Silicon Valley, very few developers write every line of code that chips from Nvidia, Advanced Micro Devices (AMD.O) or Google will actually execute.</p>
<div class="lb-trans"><p>PyTorch 是一个由 Meta Platforms（META.O）大力支持的开源项目，是开发 AI 模型的开发者最广泛使用的工具之一。在硅谷，很少有开发者编写每一行代码，Nvidia、超微（AMD.O）或谷歌的芯片实际上会执行这些代码。</p>
</div><p>Instead, those developers rely on tools like PyTorch, which is a collection of pre-written code libraries and frameworks that automate many common tasks in developing AI software. Originally released in 2016, PyTorch’s history has been closely tied to Nvidia’s development of CUDA, the software that some Wall Street analysts regard as the company’s strongest shield against competitors.</p>
<div class="lb-trans"><p>相反，这些开发者依赖于像 PyTorch 这样的工具，它是一个预先编写的代码库和框架的集合，自动化了开发 AI 软件中的许多常见任务。PyTorch 于 2016 年首次发布，其历史与 Nvidia 开发的 CUDA 紧密相连，后者被一些华尔街分析师视为该公司对抗竞争对手的最强盾牌。</p>
</div><p>Nvidia’s engineers have spent years ensuring that software developed with PyTorch runs as fast and efficiently as possible on its chips. Google, by contrast, has long had its internal armies of software developers use a different code framework called Jax, and its TPU chips use a tool called XLA to make that code run efficiently. Much of Google’s own AI software stack and performance optimization has been built around Jax, widening the gap between how Google uses its chips and how customers want to use them.</p>
<div class="lb-trans"><p>Nvidia 的工程师花费了多年时间确保使用 PyTorch 开发的软件在其芯片上运行得尽可能快和高效。相比之下，谷歌长期以来让其内部的软件开发团队使用一种不同的代码框架 Jax，而其 TPU 芯片使用一种名为 XLA 的工具来高效运行该代码。谷歌自己的 AI 软件堆栈和性能优化大多围绕 Jax 构建，这加大了谷歌使用其芯片与客户希望使用它们之间的差距。</p>
</div><p>A Google Cloud spokesperson did not comment on the specifics of the project, but confirmed to Reuters that the move would provide customers with choice.</p>
<div class="lb-trans"><p>谷歌云的一位发言人没有对项目的具体情况发表评论，但向路透社确认这一举措将为客户提供选择。</p>
</div><p>“We are seeing massive, accelerating demand for both our TPU and GPU infrastructure,” the spokesperson said. “Our focus is providing the flexibility and scale developers need, regardless of the hardware they choose to build on.”</p>
<div class="lb-trans"><p>“我们看到对 TPU 和 GPU 基础设施的需求正在快速增长，” 发言人说。“我们的重点是提供开发者所需的灵活性和规模，无论他们选择在何种硬件上构建。”</p>
</div><h3>TPU FOR CUSTOMERS</h3>
<div class="lb-trans"><h3>为客户提供 TPU</h3>
</div><p>Alphabet had long reserved the lion’s share of its own chips, or TPUs, for in-house use only. That changed in 2022, when Google’s cloud computing unit successfully lobbied to oversee the group that sells TPUs. The move drastically increased Google Cloud’s allocation of TPUs and as customers’ interest in AI has grown, Google has sought to capitalize by ramping up production and sales of TPUs to external customers.</p>
<div class="lb-trans"><p>Alphabet 长期以来将其大部分 TPU 芯片仅用于内部使用。2022 年，这一情况发生了变化，谷歌的云计算部门成功游说负责销售 TPU 的团队。这一举措大幅增加了谷歌云的 TPU 分配，随着客户对 AI 的兴趣增长，谷歌希望通过增加 TPU 的生产和销售来获利。</p>
</div><p>But the mismatch between the PyTorch frameworks used by most of the world’s AI developers and the Jax frameworks that Google’s chips are currently most finely tuned to run means that most developers cannot easily adopt Google’s chips and get them to perform as well as Nvidia’s without undertaking significant, extra engineering work. Such work takes time and money in the fast-paced AI race.</p>
<div class="lb-trans"><p>但大多数世界 AI 开发者使用的 PyTorch 框架与谷歌的芯片目前最精细调优的 Jax 框架之间的不匹配，意味着大多数开发者无法轻松采用谷歌的芯片并使其性能与 Nvidia 的芯片相当，而无需进行大量额外的工程工作。这种工作在快速发展的 AI 竞争中需要时间和金钱。</p>
</div><p>If successful, Google’s “TorchTPU” initiative could significantly reduce switching costs for companies that want alternatives to Nvidia’s GPUs. Nvidia’s dominance has been reinforced not only by its hardware but by its CUDA software ecosystem, which is deeply embedded in PyTorch and has become the default method by which companies train and run large AI models.</p>
<div class="lb-trans"><p>如果成功，谷歌的 “TorchTPU” 计划可能会显著降低希望寻找 Nvidia GPU 替代方案的公司的转换成本。Nvidia 的主导地位不仅依赖于其硬件，还依赖于其 CUDA 软件生态系统，该生态系统深深嵌入 PyTorch 中，并已成为公司训练和运行大型 AI 模型的默认方法。</p>
</div><p>Enterprise customers have been telling Google that TPUs are harder to adopt for AI workloads because they historically required developers to switch to Jax, a machine-learning framework favored internally at Google, rather than PyTorch, which most AI developers already use, the sources said.</p>
<div class="lb-trans"><p>企业客户告诉谷歌，TPU 在 AI 工作负载中的采用更为困难，因为它们历史上要求开发者切换到 Jax，而 Jax 是谷歌内部偏爱的机器学习框架，而不是大多数 AI 开发者已经使用的 PyTorch。</p>
</div><h3>JOINT EFFORTS WITH META</h3>
<div class="lb-trans"><h3>与 Meta 的联合努力</h3>
</div><p>To speed development, Google is working closely with Meta, the creator and steward of PyTorch, according to the sources. The two tech giants have been discussing deals for Meta to access more TPUs, a move first reported by The Information.</p>
<div class="lb-trans"><p>为了加速开发，谷歌正与 PyTorch 的创建者和管理者 Meta 密切合作，知情人士表示。这两家科技巨头一直在讨论 Meta 获取更多 TPU 的交易，这一举措最早由《信息》报道。</p>
</div><p>Early offerings for Meta were structured as Google-managed services, in which customers like Meta installed Google’s chips designed to run Google software and models, with Google providing operational support. Meta has a strategic interest in working on software that makes it easier to run TPUs, in a bid to lower inference costs and diversify its AI infrastructure away from Nvidia’s GPUs to gain negotiating power, the people said.</p>
<div class="lb-trans"><p>早期对 Meta 的提供被构建为谷歌管理的服务，客户如 Meta 安装谷歌设计的芯片，以运行谷歌软件和模型，谷歌提供运营支持。Meta 对开发使 TPU 更易于运行的软件有战略兴趣，旨在降低推理成本，并将其 AI 基础设施从 Nvidia 的 GPU 多样化，以增强谈判能力。</p>
</div><p>Meta declined to comment.</p>
<div class="lb-trans"><p>Meta 拒绝对此发表评论。</p>
</div><p>This year, Google has begun selling TPUs directly into customers’ data centers rather than limiting access to its own cloud. Amin Vahdat, a Google veteran, was named head of AI infrastructure this month, reporting directly to CEO Sundar Pichai.</p>
<div class="lb-trans"><p>今年，谷歌已开始直接向客户的数据中心销售 TPU，而不是仅限于其自己的云。谷歌老将 Amin Vahdat 本月被任命为 AI 基础设施负责人，直接向首席执行官 Sundar Pichai 汇报。</p>
</div><p>Google needs that infrastructure both to run its own AI products, including the Gemini chatbot and AI-powered search, and to supply customers of Google Cloud, which sells access to TPUs to companies such as Anthropic.</p>
<div class="lb-trans"><p>谷歌需要这些基础设施来运行其自己的 AI 产品，包括 Gemini 聊天机器人和 AI 驱动的搜索，并为谷歌云的客户提供服务，谷歌云向如 Anthropic 等公司销售 TPU 的访问权限。</p>
</div>

EXCLUSIVE-Google works to erode Nvidia's software advantage with Meta's help

- 谷歌推出 “ TorchTPU” 计划，旨在提高 TPU 与 PyTorch 的兼容性。  
- 此举旨在削弱 Nvidia 在 AI 计算市场的主导地位，吸引更多客户。  
- Google Cloud 希望通过增加 TPU 生产和销售，满足 AI 开发者的需求。

独家报道 - 谷歌与 Meta 合作，致力于削弱 Nvidia 的软件优势