--- title: "當 AI 賬單失控,模型路由器成為企業降本新寵" type: "News" locale: "zh-HK" url: "https://longbridge.com/zh-HK/news/291700297.md" description: "隨着企業 AI 成本攀升,模型路由器成為降本新寵。該技術根據任務複雜度自動調配最合適的 AI 模型,在不犧牲質量前提下大幅壓縮開支。Snowflake、Palantir 等企業證實通過替換廉價模型實現顯著成本節約,如 Palantir 案例中計算成本降低 97%。該趨勢正從邊緣工具走向主流,吸引廣泛關注。" datetime: "2026-07-04T10:22:43.000Z" locales: - [zh-CN](https://longbridge.com/zh-CN/news/291700297.md) - [en](https://longbridge.com/en/news/291700297.md) - [zh-HK](https://longbridge.com/zh-HK/news/291700297.md) --- # 當 AI 賬單失控,模型路由器成為企業降本新寵 隨着企業 AI 使用成本持續攀升,一類名為"模型路由器"的技術正迅速從邊緣工具走向主流。這類系統能夠根據任務複雜程度自動調配最合適的 AI 模型,在不顯著犧牲質量的前提下大幅壓縮開支,正在吸引從初創公司到大型企業的廣泛關注。 模型路由器的核心邏輯在於:並非所有任務都需要最昂貴的前沿模型。總結郵件、檢索文檔等基礎工作完全可以交由開源模型或舊版專有模型處理,成本僅為頂級模型的一小部分。Snowflake 和 Palo Alto Networks 等企業已向 The Information 證實,通過為特定任務替換更廉價的模型,實現了可觀的成本節約。 這一趨勢正在催生真實的商業回報。建築公司 McCarthy Building 表示,通過 Palantir 的路由工具 Evolve,其當季 AI token 使用量較去年同期減少了 60%。Palantir 自身也披露,在一個具體案例中,該工具通過將任務從 OpenAI 的 GPT-5.1 切換至更小的 GPT-5.4 Nano 模型,將計算成本壓縮了 97%。 ## 從手動選模型到自動路由:一個行業轉折點 模型路由器的概念並非全新,但真正走入大眾視野,是在 OpenAI 發佈 GPT-5 之後。該模型在 ChatGPT 內部根據用户提示的複雜程度自動在不同模型之間切換,將路由邏輯內嵌於產品之中。此後,能夠跨多家供應商進行模型調度的路由器開始快速普及。 目前市場上的路由器形態多樣:既有獨立產品,也有云計算服務商內置的功能模塊,還有企業 IT 部門自行搭建的定製化方案。這些工具的共同目標是替代用户手動選擇模型的操作,從而在降低成本的同時維持輸出質量。 Databricks 推出的 Unity AI Gateway 便是其中一例。該公司 CEO Ali Ghodsi 表示,這款工具"非常受歡迎",原因在於許多企業"正在以過快的速度耗盡預算"。Databricks 在向客户推出該產品之前,已在內部使用了一段時間。 ## 從初創公司到科技巨頭全面入局 路由器賽道正在吸引不同規模的參與者。據 The Information 此前報道,今年 4 月,提供路由技術的初創公司 OpenRouter 完成了 1.2 億美元新一輪融資,資本市場對這一方向的熱情可見一斑。 OpenRouter 的"自動路由器"根據用户對成本與質量的偏好(在 0 至 10 的刻度上自行設定)來決定調用哪個模型。數據顯示,該路由器約三分之一的時間會選擇谷歌相對廉價的 Gemini 2.5 Flash Lite,而調用 OpenAI 更強大的 GPT-5.5 的比例僅約 10%。OpenRouter 的自動路由器底層由初創公司 Not Diamond 提供支持,後者專注於為 AI 編程智能體開發路由系統。 日本 AI 實驗室 Sakana AI 近期發佈了一套基於路由器的多模型協同系統。該系統在測試中將數學問題主要分配給 OpenAI 的 GPT-5.5,將科學問題分配給谷歌的 Gemini,理由是系統判斷這兩個模型在各自領域優於其他選項。Sakana AI 稱,該系統整體表現在編程、工程、科學任務和推理等基準測試上與 Anthropic 的 Fable 5 和 Mythos Preview 模型"並駕齊驅"。 AI 編程應用 Cognition 本週也發佈了新路由器,利用其內部基準測試識別不同智能體的相對優勢,並引入一個"sidekick"智能體處理較簡單的任務。Cognition 表示,該路由器在某編程基準測試上達到了 Fable 5 的得分水平,成本卻低了 35%。 ## DIY 路由,低成本方案同樣奏效 並非所有企業都需要購買專業路由產品。開發者可以使用 Claude Code 等 AI 編程智能體自行搭建路由器,甚至直接讓一個 AI 模型來決定哪個模型最適合處理某個特定查詢。 Arcee AI 負責 AI 智能體工作的 Hunter Bown 表示,他習慣使用 DeepSeek V4 Flash 來進行模型選擇,原因是其成本低廉。他的做法是向 DeepSeek 提供一份模型列表,讓其判斷哪個模型最適合處理當前提示。 不過,這類"快速搭建"方案也有其侷限性。路由器提供商 Martian 的創始人 Shriyash Upadhyay 指出,更復雜的路由器有時會展示出亮眼的基準測試成績,但實際表現未必與之相符。他還提到,即便是更精密的路由器,僅憑用户的第一條提示來預測最佳模型也頗具難度。 Upadhyay 表示,模型迭代速度快、能力差異持續變化,使得路由決策愈發複雜。"各家公司沒有關於所有不同任務的無限數據,因此你必須真正深入模型內部,弄清楚這些模型擅長什麼。"為此,Martian 在做路由決策時,不僅參考模型的輸出結果,還會考量構成這些模型的內部計算過程。 ## 成本壓力持續,路由器需求料將擴大 企業對 AI 成本的焦慮並非短期現象。隨着員工對高級 AI 模型的使用量(即"tokenmaxxing"現象)持續增加,管理層對 AI 支出的審視也在加強。這一背景為模型路由器提供了持續的需求驅動力。 Palantir 的 Evolve 工具在路由功能之外,還能根據所選模型自動調整提示內容,並防止請求被重複發送給模型——後者是導致超額收費的常見原因之一。McCarthy Building 的案例表明,通過優化提示結構,企業可以在使用前沿模型時消耗更少的 token,同時獲得相同的輸出結果。 對於投資者而言,模型路由器賽道的升温意味着:一方面,OpenRouter 等專注路由技術的初創公司正在獲得資本青睞;另一方面,Databricks、Palantir 等將路由功能整合進企業 AI 平台的公司,也在以此強化其產品競爭力。隨着 AI 基礎設施支出持續擴張,幫助企業控制這一支出的工具層,正在成為不可忽視的新興市場。 風險提示及免責條款 市場有風險,投資需謹慎。本文不構成個人投資建議,也未考慮到個別用户特殊的投資目標、財務狀況或需要。用户應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資,責任自負。 ### 相關股票 - [SNOW.US](https://longbridge.com/zh-HK/quote/SNOW.US.md) - [PLTR.US](https://longbridge.com/zh-HK/quote/PLTR.US.md) - [PTIR.US](https://longbridge.com/zh-HK/quote/PTIR.US.md) - [PLTD.US](https://longbridge.com/zh-HK/quote/PLTD.US.md) - [PLTU.US](https://longbridge.com/zh-HK/quote/PLTU.US.md) - [PLTG.US](https://longbridge.com/zh-HK/quote/PLTG.US.md) - [SNOU.US](https://longbridge.com/zh-HK/quote/SNOU.US.md) - [PLT.US](https://longbridge.com/zh-HK/quote/PLT.US.md) - [PLTZ.US](https://longbridge.com/zh-HK/quote/PLTZ.US.md) - [PLOO.US](https://longbridge.com/zh-HK/quote/PLOO.US.md) - [PLTW.US](https://longbridge.com/zh-HK/quote/PLTW.US.md) - [SNOY.US](https://longbridge.com/zh-HK/quote/SNOY.US.md) - [PLTA.US](https://longbridge.com/zh-HK/quote/PLTA.US.md) - [PLTY.US](https://longbridge.com/zh-HK/quote/PLTY.US.md) - [PLYY.US](https://longbridge.com/zh-HK/quote/PLYY.US.md) - [PANW.US](https://longbridge.com/zh-HK/quote/PANW.US.md) - [OpenAI.NA](https://longbridge.com/zh-HK/quote/OpenAI.NA.md) ## 相關資訊與研究 - [Red Violet 的 IDI 在 Snowflake Marketplace 上提供精選的身份數據集](https://longbridge.com/zh-HK/news/291806235.md) - [CUSHING ASSET MANAGEMENT LP,也稱為 NXG INVESTMENT MANAGEMENT,增加了其在 Snowflake Inc. $SNOW 的持股量](https://longbridge.com/zh-HK/news/291772086.md) - [資深銀行重新調整 Palantir 股票 2027 年的目標價格](https://longbridge.com/zh-HK/news/291833078.md)