--- title: "PrismML 推出了三元 Bonsai 模型系列" type: "News" locale: "zh-HK" url: "https://longbridge.com/zh-HK/news/283039371.md" description: "PrismML 推出了三元小樹模型系列，包含三種先進的大型語言模型（8B、4B 和 1.7B 參數），採用新穎的 1.58 位權重架構。這一創新將內存使用量顯著減少了約 9 倍，相較於標準模型，使得在從邊緣設備到數據中心的各種平台上高效部署 AI 成為可能。這些模型承諾增強推理能力，同時降低硬件需求。三元小樹模型在 Apache 2.0 許可證下免費提供，旨在重新定義 AI 技術中的智能密度" datetime: "2026-04-16T18:00:40.000Z" locales: - [zh-CN](https://longbridge.com/zh-CN/news/283039371.md) - [en](https://longbridge.com/en/news/283039371.md) - [zh-HK](https://longbridge.com/zh-HK/news/283039371.md) --- # PrismML 推出了三元 Bonsai 模型系列 _以每個權重僅 1.58 位傳遞頂級智能_ , /PRNewswire/ -- PrismML，一家高性能 AI 模型的先驅，今天宣佈推出三元 Bonsai 模型系列：三種最先進的大型語言模型，參數規模分別為 8B、4B 和 1.7B，基於一種新穎的 1.58 位權重架構。 在最近推出全球首個商業可行的 1 位模型的基礎上，PrismML 繼續推動高效 AI 的邊界。從筆記本電腦和邊緣設備到嵌入式系統和大規模數據中心基礎設施，該公司正在推進一種以智能密度為中心的新範式——每單位內存、計算和能量傳遞的推理能力。 “智能密度是下一代 AI 的一個定義性指標，” PrismML 的首席執行官兼創始人 Babak Hassibi 説道，他還是加州理工學院的教授。“通過三元 Bonsai，我們在顯著減少內存、能量和硬件需求的同時，提供了顯著更多的推理能力。這在以前不切實際或不可能的環境中解鎖了強大的 AI。” **關於三元 Bonsai 模型系列：** 三元 Bonsai 模型使用三元權重表示法，其中每個權重取三個值之一：{-1, 0, +1}，對應於每個權重 1.58 位。PrismML 的專有架構在整個網絡中端到端應用這種表示法。 每個權重僅 1.58 位，這些模型相比標準的 16 位模型實現了顯著更小的內存佔用： - **三元 Bonsai 8B**：約 1.75 GB（對比約 16.4 GB） - **三元 Bonsai 4B**：約 0.86 GB（對比約 8 GB） - **三元 Bonsai 1.7B**：約 0.37 GB（對比約 3.4 GB） 這在所有模型規模上大約代表了 **9 倍的內存使用減少**。 與 PrismML 的 1 位 Bonsai 8B 模型相比，三元 Bonsai 8B 在僅需約 600 MB 額外內存的情況下，平均提升了 5 個基準點。儘管體積緊湊，但所有三款模型在各自參數類別的標準基準測試中均優於大多數領先的全精度模型。 三元 Bonsai 模型是完全三元的端到端模型。沒有更高精度的逃生艙。嵌入、注意力層、MLP 和 LM 頭都使用相同的 1.58 位表示法。模型採用分組量化方案，每個權重被限制為三個值之一：{-s, 0, +s}。這三種狀態使用 1.58 位編碼為 (-1, 0, +1)，併為每組 128 個權重共享一個 FP16 縮放因子 (s)。 **從邊緣到數據中心：每個規模的智能密度** 雖然三元 Bonsai 系列的直接影響是使強大的設備內 AI 在最小硬件要求下成為可能，但其好處遠不止於邊緣。 同樣的效率提升使數據中心能夠改善硬件利用率，降低運營成本，並顯著減少能耗。隨着 AI 基礎設施成本的持續上升，智能密度不僅作為產品差異化因素出現，還成為行業的戰略優先事項。 **定價和可用性：** 開發者、研究人員和其他用户可以從今天開始在 Apache 2.0 許可下免費下載三元 Bonsai 模型系列。 - 在此下載 1 位三元 Bonsai 模型 **關於 PrismML：** PrismML 是一家總部位於美國的人工智能公司，專注於使 AI 更高效和可及。PrismML 基於加州理工學院的專有知識產權，並得到了 Khosla Ventures、Cerberus Ventures 以及來自 Google 和加州理工學院的計算補助的支持。有關更多信息，請訪問網站、LinkedIn 或 X。 _所有註冊商標和產品標識均屬於其各自的公司實體。此處提到的任何其他商標或產品名稱也均由相關公司獨家擁有。_ **媒體聯繫人** Gary Bird PrismML \[email protected\] 831.888.9011 來源 PrismML ### 相關股票 - [PRSM.UK](https://longbridge.com/zh-HK/quote/PRSM.UK.md) - [SMH.UK](https://longbridge.com/zh-HK/quote/SMH.UK.md) - [KVSD.US](https://longbridge.com/zh-HK/quote/KVSD.US.md) - [GOOGL.US](https://longbridge.com/zh-HK/quote/GOOGL.US.md) - [GOOG.US](https://longbridge.com/zh-HK/quote/GOOG.US.md) ## 相關資訊與研究 - [新聞分析／三星大罷工癥結：AI 獲利暴增 獎金怎麼分](https://longbridge.com/zh-HK/news/287010473.md) - [三星罷工美光股價為何跌？外媒：記憶體恐衝擊 AI 供應鏈](https://longbridge.com/zh-HK/news/286869338.md) - [宜鼎發表全系列 10GbE 高速 LAN 擴充模組，引領邊緣 AI 網通佈局](https://longbridge.com/zh-HK/news/287030542.md) - [【行業透視】善用 AI 重在定義問題與專業把關](https://longbridge.com/zh-HK/news/286681677.md) - [遠傳股東會／總座井琪：放大 AI 綜效 不僅投資 AI 更投資員工能力](https://longbridge.com/zh-HK/news/286988951.md)