* 該公司採用人工智能友好硬件的時間較晚 * 內部備忘錄稱,人工智能軟件存在 “顯著差距” * 定製 AI 芯片報廢,計劃推出更雄心勃勃的新芯片 * 生成性人工智能現在加劇了公司的產能緊縮 作者:凱蒂·保羅、克里斯特爾·胡、斯蒂芬·內利斯和安娜·童 路透 4 月 25 日 - 根據一份日期為 9 月 1 日的公司備忘錄,隨着 2022 年夏季即將結束,Meta 首席執行官馬克·扎克伯格召集他的高級副手,對公司的計算能力進行了五個小時的剖析,重點是公司從事尖端人工智能工作的能力。路透社評論了 20 個。 他們面臨着一個棘手的問題:根據備忘錄、公司聲明和對 12 名知情人士的採訪,儘管這家社交媒體巨頭在人工智能研究方面進行了高調投資,但在為其主營業務採用昂貴的人工智能友好型硬件和軟件系統方面進展緩慢,阻礙了其跟上大規模創新步伐的能力,儘管它越來越依賴人工智能來支持自己的增長。這些知情人士要求匿名討論公司內部事務。 “當涉及到人工智能開發時,我們在工具、工作流和流程方面有很大的差距。這份備忘錄由基礎設施新任負責人 Santosh Janardhan 撰寫,於 9 月份發佈在 Meta 的內部留言板上,現在首次被報道。 它補充説,支持人工智能工作將需要 Meta(META.O)“從根本上改變我們的物理基礎設施設計、我們的軟件系統以及我們提供穩定平台的方法”。 一年多來,Meta 一直在從事一個龐大的項目,以完善其人工智能基礎設施。儘管該公司已公開承認在人工智能硬件趨勢上 “有點追趕”,但此次全面改革的細節 -- 包括產能緊縮、領導層更迭和一個廢棄的人工智能芯片項目 -- 此前從未報道過。 當被問及這份備忘錄和重組時,Meta 發言人喬恩·卡維爾表示,該公司在創建和部署大規模最先進的基礎設施以及人工智能研究和工程方面的深厚專業知識方面擁有經過證明的記錄。 卡維爾説:“當我們為我們的應用和消費產品系列帶來新的人工智能支持的體驗時,我們有信心我們有能力繼續擴展我們的基礎設施的能力,以滿足我們的短期和長期需求。” 他拒絕就 Meta 是否放棄其人工智能芯片發表評論。 賈納爾漢和其他高管沒有批准通過該公司提出的採訪請求。 根據 Meta 披露的公司信息,此次改革使 Meta 的資本支出每季度增加約 40 億美元 -- 幾乎是 2021 年支出的兩倍 -- 並導致 Meta 暫停或取消了之前計劃在四個地點建設的數據中心。 這些投資恰逢 Meta 經歷了一段嚴重的財務緊縮時期,自去年 11 月以來,Meta 一直在以自互聯網泡沫破裂以來未曾見過的規模裁員。 與此同時,微軟支持的 OpenAI 的 ChatGPT 在 11 月 30 日首次亮相後,迅速成為歷史上增長最快的消費者應用程序,引發了科技巨頭之間的軍備競賽,他們使用所謂的生成式人工智能發佈產品,這種人工智能除了像其他人工智能一樣識別數據中的模式外,還會根據提示創建類似人類的書面和視覺內容。 其中五位消息人士稱,生產性人工智能吞噬了大量的計算能力,放大了 Meta 容量爭奪的緊迫性。 落在後面 這五位消息人士稱,問題的一個關鍵來源可以追溯到 Meta 遲來的對圖形處理單元 (GPU) 的接受,用於人工智能工作。 GPU 芯片是唯一非常適合人工智能處理的芯片,因為它們可以同時執行大量任務,減少處理數十億條數據所需的時間。 然而,消息人士稱,圖形處理器也比其他芯片更昂貴,芯片製造商英偉達公司 (NVDA.O) 控制着 80% 的市場,並在配套軟件方面保持着壓倒性的領先地位。 NVIDIA 沒有回應對這篇報道的置評請求。 相反,直到去年,Meta 在很大程度上使用該公司的商用中央處理器 (CPU) 來運行人工智能工作負載,CPU 是計算世界的主力芯片,幾十年來一直填滿了數據中心,但人工智能工作表現不佳。 據其中兩位消息人士透露,該公司還開始使用自己設計的定製芯片進行推理,這是一個人工智能過程,算法根據大量數據進行訓練,做出判斷並對提示做出回應。 這兩位知情人士表示,到 2021 年,事實證明,這種雙管齊下的方法比圍繞 GPU 構建的方法更慢、效率更低,後者在運行不同類型的型號時也比 Meta 的芯片更靈活。 Meta 拒絕就其人工智能芯片的表現置評。 其中四位消息人士稱,隨着扎克伯格將公司轉向虛擬世界 - 一套由增強和虛擬現實實現的數字世界 - 其能力緊縮正在減緩其部署人工智能以應對威脅的能力,比如社交媒體競爭對手 TikTok 的崛起和蘋果主導的廣告隱私變化。 這些挫折引起了 Meta 前董事會成員彼得·蒂爾的注意,他於 2022 年初辭職,但沒有做出任何解釋。 據兩位知情人士透露,在離開之前的一次董事會會議上,泰爾告訴扎克伯格和他的高管,他們對 Meta 的核心社交媒體業務感到自滿,同時過於關注虛擬現實,他表示,這讓公司很容易受到 TikTok 的挑戰。 Meta 拒絕就此次談話置評。 迎頭趕上 一位消息人士稱,在取消了 Meta 自己的定製推理芯片的大規模推出計劃後,高管們轉而在 2022 年訂購了價值數十億美元的 NVIDIA 圖形處理器。 Meta 拒絕對該訂單置評。 到那時,Meta 已經落後於谷歌等同行幾步,谷歌在 2015 年開始部署自己的定製版本的 GPU,稱為 TPU。 同年春天,高管們還着手重組 Meta 的人工智能部門,任命了兩名新的工程主管,其中包括 9 月備忘錄的作者賈納漢。 根據 Meta 在 LinkedIn 上的個人資料和一位熟悉離職情況的消息人士的説法,在長達數月的動盪期間,有十幾名高管離開了 Meta,這幾乎是人工智能基礎設施領導層的徹底更迭。 Meta 接下來開始重組其數據中心,以適應即將到來的 GPU,這些 GPU 比 CPU 消耗更多的電力和產生更多的熱量,並且必須通過它們之間的專門網絡緊密地聚集在一起。 根據 Janardhan 的備忘錄和四位熟悉該項目的消息人士的説法,這些設施需要 24 到 32 倍的網絡容量和新的液體冷卻系統來管理星團的熱量,這要求它們被 “完全重新設計”,這些消息的細節之前沒有披露。 隨着工作的進行,Meta 制定了內部計劃,開始開發一種新的、更雄心勃勃的內部芯片,它將像 GPU 一樣,能夠訓練人工智能模型和執行推理。兩位消息人士稱,該項目之前沒有報道,將於 2025 年左右完成。 Meta 發言人卡維爾表示,在過渡到新設計時暫停的數據中心建設將於今年晚些時候恢復。他拒絕就芯片項目置評。 權衡取捨 在擴大其 GPU 能力的同時,Meta 目前幾乎沒有什麼可展示的,因為微軟和谷歌等競爭對手正在推動商業生成性人工智能產品的公開發布。 Meta 首席財務官蘇珊·李 (Susan Li) 在 2 月份承認,Meta 目前並沒有將太多的計算機投入到創造性工作中,她表示,基本上我們所有的人工智能能力都流向了廣告、提要和 Reels,這是一種類似 TikTok 的短視頻格式,受到年輕用户的歡迎。 根據其中四位消息人士的説法,Meta 直到 11 月份推出 ChatGPT 後才優先開發生成性人工智能產品。他們説,儘管 Facebook 的研究實驗室博覽會自 2021 年末以來一直在發佈這項技術的原型,但該公司並沒有專注於將其廣受好評的研究轉化為產品。 隨着投資者興趣的飆升,這種情況正在改變。扎克伯格在 2 月份宣佈了一個新的頂級產生式人工智能團隊,他説這將 “推動” 公司在該領域的工作。 首席技術官安德魯·博斯沃思本月也表示,生成性人工智能是他和扎克伯格花費時間最多的領域,他預測 Meta 將在今年發佈一款產品。 兩名熟悉新團隊的人士表示,該團隊的工作處於早期階段,重點是建立一個基礎模型,這是一個核心項目,以後可以針對不同的產品進行微調和調整。 Meta 發言人卡維爾表示,一年多來,該公司一直在不同的團隊上開發生成性人工智能產品。他證實,自從 ChatGPT 到來後的幾個月裏,工作已經加快了。 Meta 的資本支出增加 Meta 的美國數據中心狀況