<p><em>以每個權重僅 1.58 位傳遞頂級智能</em></p>
<p>, /PRNewswire/ -- PrismML，一家高性能 AI 模型的先驅，今天宣佈推出三元 Bonsai 模型系列：三種最先進的大型語言模型，參數規模分別為 8B、4B 和 1.7B，基於一種新穎的 1.58 位權重架構。</p>
<p>在最近推出全球首個商業可行的 1 位模型的基礎上，PrismML 繼續推動高效 AI 的邊界。從筆記本電腦和邊緣設備到嵌入式系統和大規模數據中心基礎設施，該公司正在推進一種以智能密度為中心的新範式——每單位內存、計算和能量傳遞的推理能力。</p>
<p>“智能密度是下一代 AI 的一個定義性指標，” PrismML 的首席執行官兼創始人 Babak Hassibi 説道，他還是加州理工學院的教授。“通過三元 Bonsai，我們在顯著減少內存、能量和硬件需求的同時，提供了顯著更多的推理能力。這在以前不切實際或不可能的環境中解鎖了強大的 AI。”</p>
<p><strong>關於三元 Bonsai 模型系列：</strong> 三元 Bonsai 模型使用三元權重表示法，其中每個權重取三個值之一：{-1, 0, +1}，對應於每個權重 1.58 位。PrismML 的專有架構在整個網絡中端到端應用這種表示法。</p>
<p>每個權重僅 1.58 位，這些模型相比標準的 16 位模型實現了顯著更小的內存佔用：</p>
<ul>
<li><strong>三元 Bonsai 8B</strong>：約 1.75 GB（對比約 16.4 GB）</li>
<li><strong>三元 Bonsai 4B</strong>：約 0.86 GB（對比約 8 GB）</li>
<li><strong>三元 Bonsai 1.7B</strong>：約 0.37 GB（對比約 3.4 GB）</li>
</ul>
<p>這在所有模型規模上大約代表了 <strong>9 倍的內存使用減少</strong>。</p>
<p>與 PrismML 的 1 位 Bonsai 8B 模型相比，三元 Bonsai 8B 在僅需約 600 MB 額外內存的情況下，平均提升了 5 個基準點。儘管體積緊湊，但所有三款模型在各自參數類別的標準基準測試中均優於大多數領先的全精度模型。</p>
<p>三元 Bonsai 模型是完全三元的端到端模型。沒有更高精度的逃生艙。嵌入、注意力層、MLP 和 LM 頭都使用相同的 1.58 位表示法。模型採用分組量化方案，每個權重被限制為三個值之一：{-s, 0, +s}。這三種狀態使用 1.58 位編碼為 (-1, 0, +1)，併為每組 128 個權重共享一個 FP16 縮放因子 (s)。</p>
<p><strong>從邊緣到數據中心：每個規模的智能密度</strong></p>
<p>雖然三元 Bonsai 系列的直接影響是使強大的設備內 AI 在最小硬件要求下成為可能，但其好處遠不止於邊緣。</p>
<p>同樣的效率提升使數據中心能夠改善硬件利用率，降低運營成本，並顯著減少能耗。隨着 AI 基礎設施成本的持續上升，智能密度不僅作為產品差異化因素出現，還成為行業的戰略優先事項。</p>
<p><strong>定價和可用性：</strong> 開發者、研究人員和其他用户可以從今天開始在 Apache 2.0 許可下免費下載三元 Bonsai 模型系列。</p>
<ul>
<li>在此下載 1 位三元 Bonsai 模型</li>
</ul>
<p><strong>關於 PrismML：</strong> PrismML 是一家總部位於美國的人工智能公司，專注於使 AI 更高效和可及。PrismML 基於加州理工學院的專有知識產權，並得到了 Khosla Ventures、Cerberus Ventures 以及來自 Google 和加州理工學院的計算補助的支持。有關更多信息，請訪問網站、LinkedIn 或 X。</p>
<p><em>所有註冊商標和產品標識均屬於其各自的公司實體。此處提到的任何其他商標或產品名稱也均由相關公司獨家擁有。</em></p>
<p><strong>媒體聯繫人</strong> Gary Bird</p>
<p>PrismML</p>
<p>[email protected]</p>
<p>831.888.9011</p>
<p>來源 PrismML</p>
<p><img src="https://imageproxy.pbkrs.com/https://rt.prnewswire.com/rt.gif/query-RGF0ZUlkPTIwMjYwNDE2Jk5ld3NJdGVtSWQ9U0YzNjY1NiZUcmFuc21pc3Npb25fSWQ9MjAyNjA0MTYxNDAwUFJfTkVXU19VU1BSX19fX19TRjM2NjU2?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" alt="" original-src="https://imageproxy.pbkrs.com/https://rt.prnewswire.com/rt.gif/query-RGF0ZUlkPTIwMjYwNDE2Jk5ld3NJdGVtSWQ9U0YzNjY1NiZUcmFuc21pc3Npb25fSWQ9MjAyNjA0MTYxNDAwUFJfTkVXU19VU1BSX19fX19TRjM2NjU2"/></p>

PRSM

<p>PrismML 推出了三元小樹模型系列，包含三種先進的大型語言模型（8B、4B 和 1.7B 參數），採用新穎的 1.58 位權重架構。這一創新將內存使用量顯著減少了約 9 倍，相較於標準模型，使得在從邊緣設備到數據中心的各種平台上高效部署 AI 成為可能。這些模型承諾增強推理能力，同時降低硬件需求。三元小樹模型在 Apache 2.0 許可證下免費提供，旨在重新定義 AI 技術中的智能密度</p>

<p><em>Delivering top intelligence at just 1.58 bits per weight</em></p>
<div class="lb-trans"><p><em>以每個權重僅 1.58 位傳遞頂級智能</em></p>
</div><p>, /PRNewswire/ -- PrismML, a pioneer in high-performance AI models, today announced the Ternary Bonsai model family: three state-of-the-art large language models available in 8B, 4B, and 1.7B parameter sizes, built on a novel 1.58-bit weight architecture.</p>
<div class="lb-trans"><p>, /PRNewswire/ -- PrismML，一家高性能 AI 模型的先驅，今天宣佈推出三元 Bonsai 模型系列：三種最先進的大型語言模型，參數規模分別為 8B、4B 和 1.7B，基於一種新穎的 1.58 位權重架構。</p>
</div><p>Building on their recent introduction of the world's first commercially viable 1-bit models, PrismML continues to push the boundaries of efficient AI. From laptops and edge devices to embedded systems and large-scale datacenter infrastructure, the company is advancing a new paradigm centered on intelligence density - the amount of reasoning capability delivered per unit of memory, compute, and energy.</p>
<div class="lb-trans"><p>在最近推出全球首個商業可行的 1 位模型的基礎上，PrismML 繼續推動高效 AI 的邊界。從筆記本電腦和邊緣設備到嵌入式系統和大規模數據中心基礎設施，該公司正在推進一種以智能密度為中心的新範式——每單位內存、計算和能量傳遞的推理能力。</p>
</div><p>&#34;Intelligence density is a defining metric of next-generation AI,&#34; said Babak Hassibi, CEO and Founder of PrismML and Professor at Caltech. &#34;With Ternary Bonsai, we deliver significantly more reasoning capability while dramatically reducing memory, energy, and hardware requirements. This unlocks powerful AI in environments where it was previously impractical or impossible.&#34;</p>
<div class="lb-trans"><p>“智能密度是下一代 AI 的一個定義性指標，” PrismML 的首席執行官兼創始人 Babak Hassibi 説道，他還是加州理工學院的教授。“通過三元 Bonsai，我們在顯著減少內存、能量和硬件需求的同時，提供了顯著更多的推理能力。這在以前不切實際或不可能的環境中解鎖了強大的 AI。”</p>
</div><p><strong>About Ternary Bonsai model family:</strong> Ternary Bonsai models use a ternary weight representation, where each weight takes one of three values: {-1, 0, +1}, corresponding to 1.58 bits per weight. PrismML's proprietary architecture applies this representation end-to-end across the entire network.</p>
<div class="lb-trans"><p><strong>關於三元 Bonsai 模型系列：</strong> 三元 Bonsai 模型使用三元權重表示法，其中每個權重取三個值之一：{-1, 0, +1}，對應於每個權重 1.58 位。PrismML 的專有架構在整個網絡中端到端應用這種表示法。</p>
</div><p>At just 1.58 bits per weight, the models achieve dramatically smaller memory footprints compared to standard 16-bit models:</p>
<div class="lb-trans"><p>每個權重僅 1.58 位，這些模型相比標準的 16 位模型實現了顯著更小的內存佔用：</p>
</div><ul>
<li><strong>Ternary Bonsai 8B</strong>: ~1.75 GB (vs. ~16.4 GB)</li>
<li><strong>Ternary Bonsai 4B</strong>: ~0.86 GB (vs. ~8 GB)</li>
<li><strong>Ternary Bonsai 1.7B</strong>: ~0.37 GB (vs. ~3.4 GB)</li>
</ul>
<div class="lb-trans"><ul>
<li><strong>三元 Bonsai 8B</strong>：約 1.75 GB（對比約 16.4 GB）</li>
<li><strong>三元 Bonsai 4B</strong>：約 0.86 GB（對比約 8 GB）</li>
<li><strong>三元 Bonsai 1.7B</strong>：約 0.37 GB（對比約 3.4 GB）</li>
</ul>
</div><p>This represents roughly a <strong>9× reduction in memory usage</strong> across all model sizes.</p>
<div class="lb-trans"><p>這在所有模型規模上大約代表了 <strong>9 倍的內存使用減少</strong>。</p>
</div><p>Compared to PrismML's 1-bit Bonsai 8B model, the Ternary Bonsai 8B delivers an average improvement of 5 benchmark points while requiring only ~600 MB of additional memory. Despite their compact size, all three models outperform most leading full-precision models within their respective parameter classes on standard benchmarks.</p>
<div class="lb-trans"><p>與 PrismML 的 1 位 Bonsai 8B 模型相比，三元 Bonsai 8B 在僅需約 600 MB 額外內存的情況下，平均提升了 5 個基準點。儘管體積緊湊，但所有三款模型在各自參數類別的標準基準測試中均優於大多數領先的全精度模型。</p>
</div><p>Ternary Bonsai models are fully ternary end-to-end. There are no higher-precision escape hatches. Embeddings, attention layers, MLPs, and the LM head all use the same 1.58-bit representation. The models employ a group-wise quantization scheme, where each weight is constrained to one of three values: {-s, 0, +s}. These three states are encoded as (-1, 0, +1) using 1.58 bits per weight, along with a shared FP16 scale factor (s) for each group of 128 weights.</p>
<div class="lb-trans"><p>三元 Bonsai 模型是完全三元的端到端模型。沒有更高精度的逃生艙。嵌入、注意力層、MLP 和 LM 頭都使用相同的 1.58 位表示法。模型採用分組量化方案，每個權重被限制為三個值之一：{-s, 0, +s}。這三種狀態使用 1.58 位編碼為 (-1, 0, +1)，併為每組 128 個權重共享一個 FP16 縮放因子 (s)。</p>
</div><p><strong>From Edge to Datacenter: Intelligence Density at Every Scale</strong></p>
<div class="lb-trans"><p><strong>從邊緣到數據中心：每個規模的智能密度</strong></p>
</div><p>While the immediate impact of the Ternary Bonsai family is enabling powerful on-device AI with minimal hardware requirements, the benefits extend well beyond the edge.</p>
<div class="lb-trans"><p>雖然三元 Bonsai 系列的直接影響是使強大的設備內 AI 在最小硬件要求下成為可能，但其好處遠不止於邊緣。</p>
</div><p>The same efficiency gains allow datacenters to improve hardware utilization, lower operating costs, and significantly reduce energy consumption. As the cost of AI infrastructure continues to rise, intelligence density is emerging not only as a product differentiator, but as a strategic priority for the industry.</p>
<div class="lb-trans"><p>同樣的效率提升使數據中心能夠改善硬件利用率，降低運營成本，並顯著減少能耗。隨着 AI 基礎設施成本的持續上升，智能密度不僅作為產品差異化因素出現，還成為行業的戰略優先事項。</p>
</div><p><strong>Pricing and Availability:</strong> Developers, researchers, and other users can download the Ternary Bonsai family of models under the Apache 2.0 license for free starting today.</p>
<div class="lb-trans"><p><strong>定價和可用性：</strong> 開發者、研究人員和其他用户可以從今天開始在 Apache 2.0 許可下免費下載三元 Bonsai 模型系列。</p>
</div><ul>
<li>Download 1-bit Ternary Bonsai Models here</li>
</ul>
<div class="lb-trans"><ul>
<li>在此下載 1 位三元 Bonsai 模型</li>
</ul>
</div><p><strong>About PrismML:</strong> PrismML is a U.S.-based artificial intelligence company focused on making AI more efficient and accessible. PrismML is built on proprietary Caltech intellectual property and backed by Khosla Ventures, Cerberus Ventures, and compute grants from Google and Caltech. For more information, visit the Website, LinkedIn, or X.</p>
<div class="lb-trans"><p><strong>關於 PrismML：</strong> PrismML 是一家總部位於美國的人工智能公司，專注於使 AI 更高效和可及。PrismML 基於加州理工學院的專有知識產權，並得到了 Khosla Ventures、Cerberus Ventures 以及來自 Google 和加州理工學院的計算補助的支持。有關更多信息，請訪問網站、LinkedIn 或 X。</p>
</div><p><em>All registered trademarks and product identifiers belong to their respective corporate entities. Any other trademarks or product names referenced here are also owned exclusively by their relevant companies.</em></p>
<div class="lb-trans"><p><em>所有註冊商標和產品標識均屬於其各自的公司實體。此處提到的任何其他商標或產品名稱也均由相關公司獨家擁有。</em></p>
</div><p><strong>Media Contact</strong> Gary Bird</p>
<div class="lb-trans"><p><strong>媒體聯繫人</strong> Gary Bird</p>
</div><p>PrismML</p>
<div class="lb-trans"><p>PrismML</p>
</div><p>[email protected]</p>
<div class="lb-trans"><p>[email protected]</p>
</div><p>831.888.9011</p>
<div class="lb-trans"><p>831.888.9011</p>
</div><p>SOURCE PrismML</p>
<div class="lb-trans"><p>來源 PrismML</p>
</div><p><img src="https://imageproxy.pbkrs.com/https://rt.prnewswire.com/rt.gif/query-RGF0ZUlkPTIwMjYwNDE2Jk5ld3NJdGVtSWQ9U0YzNjY1NiZUcmFuc21pc3Npb25fSWQ9MjAyNjA0MTYxNDAwUFJfTkVXU19VU1BSX19fX19TRjM2NjU2" alt="" original-src="https://rt.prnewswire.com/rt.gif?NewsItemId=SF36656&amp;Transmission_Id=202604161400PR_NEWS_USPR_____SF36656&amp;DateId=20260416"/></p>

PrismML 推出了三元 Bonsai 模型系列