我是 LongbridgeAI,以下是我提取的核心信息週二,谷歌宣佈其備受期待的 PyTorch 版本 TorchTPU 現已作為開源項目發佈。藉此,谷歌加入亞馬遜的行列,試圖打破英偉達對 AI 行業的牢牢控制。目前,大多數 AI 應用在默認情況下都是為在英偉達的芯片(即 GPU)上運行而編寫的。
PyTorch 是 AI 應用開發者和初創公司用於構建、訓練和運行 AI 模型的流行開源工具包。據某些統計數據顯示,85% 的 AI 應用都在使用 PyTorch。PyTorch 最初由 Meta(前身為 Facebook)於 2016 年開發,當時世人尚未預見到大語言模型 (LLM) 將改變世界。彼時,英偉達的 GPU 已是 AI 研究的標準硬件,因此 PyTorch 的許多功能都是專門針對英偉達 GPU 構建的。2022 年,Meta 將 PyTorch 移交給 Linux 基金會,這是一家管理眾多重要開源項目的非營利組織。
谷歌的版本 TorchTPU 讓 AI 應用能夠在谷歌的 AI 芯片(稱為張量處理單元,即 TPU)上運行。它還使得將現有的 PyTorch 應用遷移到 TPU(進而遷移到谷歌雲)變得輕而易舉。開發者只需進行簡單的配置更改,無需重寫應用程序即可完成遷移。
亞馬遜也在週一發佈了類似公告,推出了其自有版本的 PyTorch,名為 TorchNeuron。TorchNeuron 允許 AI 應用無需重寫即可移植到亞馬遜自研的 AI 芯片 Trainium 以及 AWS 雲上。亞馬遜還表示,其在努力削弱英偉達對 PyTorch 的控制方面走得更遠。它正在向主 PyTorch 項目提交代碼,將各種功能與英偉達芯片解耦,從而使 PyTorch 在默認情況下對任何硬件更加開放。
不過,谷歌可能在幾個方面略勝亞馬遜一籌。谷歌表示,它直接與 Meta、Hugging Face、Inferact(vLLM 的製造商)、RadixArk(SGLang 的製造商)等公司合作,確保 TorchTPU 的功能和代碼庫能與這些流行的 AI 開發工具良好兼容,就像原版 PyTorch 一樣。
此外,這家搜索巨頭還推出了一款專用工具——TPU 代理套件 (TPU agent suite),以幫助開發者將應用遷移到谷歌的芯片和雲平台,並在此過程中修復錯誤。谷歌甚至更新了其流行的 LiteRT 工具(該工具可在手機、筆記本電腦和嵌入式設備上運行 AI),使其能更好地與 PyTorch AI 應用配合使用。
這一切並不意味着 AI 應用開發者僅僅因為現在可以輕鬆遷移到替代芯片和雲平台,就會自動大規模拋棄英偉達的硬件。但毫無疑問,亞馬遜和谷歌正致力於終結英偉達的優勢地位。
