SambaNova 籌集了 10 億美元，並簽署了摩根大通作為其客户

//php echo do_shortcode('[responsivevoice_button voice="US English Male" buttontext="收聽帖子"]') ?e

法國巴黎——在 RAISE 上，SambaNova 宣佈已完成一輪超額認購的 10 億美元融資，估值為 110 億美元，投資者包括新老投資者。General Atlantic 主導了這一輪融資，Seligman Ventures、T. Rowe Price Associates 和 Capital Group 也參與其中，此外還有現有投資者如英特爾資本、貝萊德和卡塔爾投資局。此消息是在今年早些時候完成的一輪超過 3.5 億美元融資之後發佈的。

在高調退出的 Groq 和 Cerebras 之後，成立的 AI 芯片初創公司估值飆升，但 SambaNova 的估值是基於其真實市場價值，SambaNova 首席執行官 Rodrigo Liang 告訴 EE Times。

“新的估值反映了我們業務的快速增長，” Liang 説。“擁有 40 或 50 個特定規模的客户對我們的投資者來説是有意義的。”

Liang 補充説，投資者理解其他架構的侷限性。

“大型模型需要內存容量，” 他説。“即使是開源模型現在也是多萬億參數，就我所見，大多數人並不願意為了量化版本的模型而放棄質量……這正是我們要解決的問題。”

他説，SambaNova 的 SN50 可以連接成數百個芯片的大型集羣。

他説，SambaNova 正在考慮潛在的 IPO 選項，但此次融資為公司提供了充足的資金支持。

“通過這次融資，我們可以無限期運營，因為我們的燒錢率相對較低，” 他説。“我們不建數據中心；我們不需要確保土地或電力；我們不做任何這些事情。我們不需要回租。我們的業務是構建和運輸機架。這使我們的資產負債表可以持續多年。”

他補充説，SambaNova 預計明年將實現盈利。

推理客户

SambaNova 還宣佈摩根大通作為客户。該銀行將部署 SambaNova 的 SN40 和 SN50 系統，以支持安全的本地 AI 推理。

“銀行在使用 AI 方面非常活躍，但沒有一家比摩根大通更活躍，” Liang 説。“企業市場正在達到人們需要推理的程度，他們希望將其帶回本地。他們沒有足夠的計算能力，模型太大，因此人們想要的模型、數據隱私和安全性之間存在良好的契合。”

SambaNova 與摩根大通簽訂了多年協議。

“這是一個突破，因為大多數供應商還沒有弄清楚如何進入企業市場，” Liang 説。“企業市場將會是重要的；雖然不會佔 100%，但它將在整體市場中扮演重要角色，我們開始看到這一點。”

企業客户希望在自己的環境中託管私有模型和私有數據，而這不太可能是一個千兆瓦級的數據中心，Liang 説。

“他們喜歡空氣冷卻、單個機架和開放標準，” 他説。“他們喜歡標準以太網和標準 Red Hat，並且他們正在將機架滾入他們已經部署的現有數據中心。”

分散推理

在幾周前的 Computex 上，SambaNova 展示了其 SN40 芯片在與 Nvidia Blackwell GPU 用於預填充和 Intel Xeon 6 CPU 運行應用程序的系統中進行解碼加速的表現。根據 SambaNova 的説法，這種設置在每個芯片的基礎上將性能提升了 2 到 3 倍。

分散推理是關於公司共同尋找更好解決方案以滿足客户需求，Liang 説，儘管 SambaNova 能夠在同一硬件上同時處理預填充和解碼，但他仍然很高興 Nvidia 在這種架構中使其 GPU 的接口更容易。

“我們之所以大力推進這一點是因為內存成本上升，” 他説。“我們可以提供低內存配置的解碼加速器，這為我們的客户節省了資金，然後重用已經在數據中心內的 GPU 中的所有內存。”

Liang 表示，推進分散化可以為客户節省資金，改善經濟效益，並使 SambaNova 能夠更快部署，因為客户可以看到機架並排運行。

“如果他們不需要，它們可以稍後重新部署；這一切都是動態的，都是開放接口，” 他説。

Liang 表示，配備 Nvidia GPU 和 SambaNova RDU 的分散架構是雲服務提供商的首選配置。然而，需要數據隱私和安全性以及可預測響應時間的企業不需要分散化，更適合使用 SambaNova 獨立的本地集羣。

這種 Nvidia 加 SambaNova 的推理架構將由風險投資公司 Vista Equity Partners 和 Cambium Capital 的新企業 Vector Core Compute (VC2) 大規模部署。VC2 是一個分佈式雲提供商，專注於超低延遲和超低成本的代幣，主要在美國最大的城市地區。這些集羣正在城市地區的現有數據中心中部署，這些地區不一定有千兆瓦的電力，但這些地區離他們服務的企業非常近。Liang 表示，VC2 已向 SambaNova 下了 35 億美元的訂單，將在未來三年內部署。

VC2 是一個獨立實體，目前正在確保現有數據中心的空間，這使得新公司能夠快速啓動服務。Liang 表示，支持新實體的風險投資公司擁有數十家正在向 AI 優先運營轉型的投資組合公司，形成了一個現成的客户基礎。

“通過他們自己的雲，他們可以為自己的公司創造更高的性能，並在後端捕獲價值，” 他説。

對於仍在使用 CPU 運行的記錄系統的自主智能 AI，SambaNova 正在與英特爾合作，以實現與 Xeon CPU 機架的高效互連。該解決方案使用標準開放接口，如 vLLM，但在英特爾 Xeon 堆棧和 SambaNova 堆棧之間進行了優化，以提供更好的用户體驗，Liang 表示。與英特爾的新市場合作關係將在 SN50 開始大規模生產時生效。

最終目標是使今天的應用程序具備代理準備能力，以便它們能夠與自主智能 AI 進行接口。

“最終，您將看到 AI 模型世界與傳統應用程序世界的融合，” Liang 説。

---

另請閲讀：

SambaNova 放棄收購英特爾，轉而籌集資金

SambaNova 與英特爾合作進行解耦推理

自主智能 AI，人工智能，人工智能推理，融資，ICS，半導體，初創企業，風險投資融資

SAMBANOVA，SAMBANOVA SYSTEMS