<p><em>以每个权重仅 1.58 位传递顶级智能</em></p>
<p>, /PRNewswire/ -- PrismML，一家高性能 AI 模型的先驱，今天宣布推出三元 Bonsai 模型系列：三种最先进的大型语言模型，参数规模分别为 8B、4B 和 1.7B，基于一种新颖的 1.58 位权重架构。</p>
<p>在最近推出全球首个商业可行的 1 位模型的基础上，PrismML 继续推动高效 AI 的边界。从笔记本电脑和边缘设备到嵌入式系统和大规模数据中心基础设施，该公司正在推进一种以智能密度为中心的新范式——每单位内存、计算和能量传递的推理能力。</p>
<p>“智能密度是下一代 AI 的一个定义性指标，” PrismML 的首席执行官兼创始人 Babak Hassibi 说道，他还是加州理工学院的教授。“通过三元 Bonsai，我们在显著减少内存、能量和硬件需求的同时，提供了显著更多的推理能力。这在以前不切实际或不可能的环境中解锁了强大的 AI。”</p>
<p><strong>关于三元 Bonsai 模型系列：</strong> 三元 Bonsai 模型使用三元权重表示法，其中每个权重取三个值之一：{-1, 0, +1}，对应于每个权重 1.58 位。PrismML 的专有架构在整个网络中端到端应用这种表示法。</p>
<p>每个权重仅 1.58 位，这些模型相比标准的 16 位模型实现了显著更小的内存占用：</p>
<ul>
<li><strong>三元 Bonsai 8B</strong>：约 1.75 GB（对比约 16.4 GB）</li>
<li><strong>三元 Bonsai 4B</strong>：约 0.86 GB（对比约 8 GB）</li>
<li><strong>三元 Bonsai 1.7B</strong>：约 0.37 GB（对比约 3.4 GB）</li>
</ul>
<p>这在所有模型规模上大约代表了 <strong>9 倍的内存使用减少</strong>。</p>
<p>与 PrismML 的 1 位 Bonsai 8B 模型相比，三元 Bonsai 8B 在仅需约 600 MB 额外内存的情况下，平均提升了 5 个基准点。尽管体积紧凑，但所有三款模型在各自参数类别的标准基准测试中均优于大多数领先的全精度模型。</p>
<p>三元 Bonsai 模型是完全三元的端到端模型。没有更高精度的逃生舱。嵌入、注意力层、MLP 和 LM 头都使用相同的 1.58 位表示法。模型采用分组量化方案，每个权重被限制为三个值之一：{-s, 0, +s}。这三种状态使用 1.58 位编码为 (-1, 0, +1)，并为每组 128 个权重共享一个 FP16 缩放因子 (s)。</p>
<p><strong>从边缘到数据中心：每个规模的智能密度</strong></p>
<p>虽然三元 Bonsai 系列的直接影响是使强大的设备内 AI 在最小硬件要求下成为可能，但其好处远不止于边缘。</p>
<p>同样的效率提升使数据中心能够改善硬件利用率，降低运营成本，并显著减少能耗。随着 AI 基础设施成本的持续上升，智能密度不仅作为产品差异化因素出现，还成为行业的战略优先事项。</p>
<p><strong>定价和可用性：</strong> 开发者、研究人员和其他用户可以从今天开始在 Apache 2.0 许可下免费下载三元 Bonsai 模型系列。</p>
<ul>
<li>在此下载 1 位三元 Bonsai 模型</li>
</ul>
<p><strong>关于 PrismML：</strong> PrismML 是一家总部位于美国的人工智能公司，专注于使 AI 更高效和可及。PrismML 基于加州理工学院的专有知识产权，并得到了 Khosla Ventures、Cerberus Ventures 以及来自 Google 和加州理工学院的计算补助的支持。有关更多信息，请访问网站、LinkedIn 或 X。</p>
<p><em>所有注册商标和产品标识均属于其各自的公司实体。此处提到的任何其他商标或产品名称也均由相关公司独家拥有。</em></p>
<p><strong>媒体联系人</strong> Gary Bird</p>
<p>PrismML</p>
<p>[email protected]</p>
<p>831.888.9011</p>
<p>来源 PrismML</p>
<p><img src="https://imageproxy.pbkrs.com/https://rt.prnewswire.com/rt.gif/query-RGF0ZUlkPTIwMjYwNDE2Jk5ld3NJdGVtSWQ9U0YzNjY1NiZUcmFuc21pc3Npb25fSWQ9MjAyNjA0MTYxNDAwUFJfTkVXU19VU1BSX19fX19TRjM2NjU2?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" alt="" original-src="https://imageproxy.pbkrs.com/https://rt.prnewswire.com/rt.gif/query-RGF0ZUlkPTIwMjYwNDE2Jk5ld3NJdGVtSWQ9U0YzNjY1NiZUcmFuc21pc3Npb25fSWQ9MjAyNjA0MTYxNDAwUFJfTkVXU19VU1BSX19fX19TRjM2NjU2"/></p>

PRSM

<p>PrismML 推出了三元小树模型系列，包含三种先进的大型语言模型（8B、4B 和 1.7B 参数），采用新颖的 1.58 位权重架构。这一创新将内存使用量显著减少了约 9 倍，相较于标准模型，使得在从边缘设备到数据中心的各种平台上高效部署 AI 成为可能。这些模型承诺增强推理能力，同时降低硬件需求。三元小树模型在 Apache 2.0 许可证下免费提供，旨在重新定义 AI 技术中的智能密度</p>

<p><em>Delivering top intelligence at just 1.58 bits per weight</em></p>
<div class="lb-trans"><p><em>以每个权重仅 1.58 位传递顶级智能</em></p>
</div><p>, /PRNewswire/ -- PrismML, a pioneer in high-performance AI models, today announced the Ternary Bonsai model family: three state-of-the-art large language models available in 8B, 4B, and 1.7B parameter sizes, built on a novel 1.58-bit weight architecture.</p>
<div class="lb-trans"><p>, /PRNewswire/ -- PrismML，一家高性能 AI 模型的先驱，今天宣布推出三元 Bonsai 模型系列：三种最先进的大型语言模型，参数规模分别为 8B、4B 和 1.7B，基于一种新颖的 1.58 位权重架构。</p>
</div><p>Building on their recent introduction of the world's first commercially viable 1-bit models, PrismML continues to push the boundaries of efficient AI. From laptops and edge devices to embedded systems and large-scale datacenter infrastructure, the company is advancing a new paradigm centered on intelligence density - the amount of reasoning capability delivered per unit of memory, compute, and energy.</p>
<div class="lb-trans"><p>在最近推出全球首个商业可行的 1 位模型的基础上，PrismML 继续推动高效 AI 的边界。从笔记本电脑和边缘设备到嵌入式系统和大规模数据中心基础设施，该公司正在推进一种以智能密度为中心的新范式——每单位内存、计算和能量传递的推理能力。</p>
</div><p>&#34;Intelligence density is a defining metric of next-generation AI,&#34; said Babak Hassibi, CEO and Founder of PrismML and Professor at Caltech. &#34;With Ternary Bonsai, we deliver significantly more reasoning capability while dramatically reducing memory, energy, and hardware requirements. This unlocks powerful AI in environments where it was previously impractical or impossible.&#34;</p>
<div class="lb-trans"><p>“智能密度是下一代 AI 的一个定义性指标，” PrismML 的首席执行官兼创始人 Babak Hassibi 说道，他还是加州理工学院的教授。“通过三元 Bonsai，我们在显著减少内存、能量和硬件需求的同时，提供了显著更多的推理能力。这在以前不切实际或不可能的环境中解锁了强大的 AI。”</p>
</div><p><strong>About Ternary Bonsai model family:</strong> Ternary Bonsai models use a ternary weight representation, where each weight takes one of three values: {-1, 0, +1}, corresponding to 1.58 bits per weight. PrismML's proprietary architecture applies this representation end-to-end across the entire network.</p>
<div class="lb-trans"><p><strong>关于三元 Bonsai 模型系列：</strong> 三元 Bonsai 模型使用三元权重表示法，其中每个权重取三个值之一：{-1, 0, +1}，对应于每个权重 1.58 位。PrismML 的专有架构在整个网络中端到端应用这种表示法。</p>
</div><p>At just 1.58 bits per weight, the models achieve dramatically smaller memory footprints compared to standard 16-bit models:</p>
<div class="lb-trans"><p>每个权重仅 1.58 位，这些模型相比标准的 16 位模型实现了显著更小的内存占用：</p>
</div><ul>
<li><strong>Ternary Bonsai 8B</strong>: ~1.75 GB (vs. ~16.4 GB)</li>
<li><strong>Ternary Bonsai 4B</strong>: ~0.86 GB (vs. ~8 GB)</li>
<li><strong>Ternary Bonsai 1.7B</strong>: ~0.37 GB (vs. ~3.4 GB)</li>
</ul>
<div class="lb-trans"><ul>
<li><strong>三元 Bonsai 8B</strong>：约 1.75 GB（对比约 16.4 GB）</li>
<li><strong>三元 Bonsai 4B</strong>：约 0.86 GB（对比约 8 GB）</li>
<li><strong>三元 Bonsai 1.7B</strong>：约 0.37 GB（对比约 3.4 GB）</li>
</ul>
</div><p>This represents roughly a <strong>9× reduction in memory usage</strong> across all model sizes.</p>
<div class="lb-trans"><p>这在所有模型规模上大约代表了 <strong>9 倍的内存使用减少</strong>。</p>
</div><p>Compared to PrismML's 1-bit Bonsai 8B model, the Ternary Bonsai 8B delivers an average improvement of 5 benchmark points while requiring only ~600 MB of additional memory. Despite their compact size, all three models outperform most leading full-precision models within their respective parameter classes on standard benchmarks.</p>
<div class="lb-trans"><p>与 PrismML 的 1 位 Bonsai 8B 模型相比，三元 Bonsai 8B 在仅需约 600 MB 额外内存的情况下，平均提升了 5 个基准点。尽管体积紧凑，但所有三款模型在各自参数类别的标准基准测试中均优于大多数领先的全精度模型。</p>
</div><p>Ternary Bonsai models are fully ternary end-to-end. There are no higher-precision escape hatches. Embeddings, attention layers, MLPs, and the LM head all use the same 1.58-bit representation. The models employ a group-wise quantization scheme, where each weight is constrained to one of three values: {-s, 0, +s}. These three states are encoded as (-1, 0, +1) using 1.58 bits per weight, along with a shared FP16 scale factor (s) for each group of 128 weights.</p>
<div class="lb-trans"><p>三元 Bonsai 模型是完全三元的端到端模型。没有更高精度的逃生舱。嵌入、注意力层、MLP 和 LM 头都使用相同的 1.58 位表示法。模型采用分组量化方案，每个权重被限制为三个值之一：{-s, 0, +s}。这三种状态使用 1.58 位编码为 (-1, 0, +1)，并为每组 128 个权重共享一个 FP16 缩放因子 (s)。</p>
</div><p><strong>From Edge to Datacenter: Intelligence Density at Every Scale</strong></p>
<div class="lb-trans"><p><strong>从边缘到数据中心：每个规模的智能密度</strong></p>
</div><p>While the immediate impact of the Ternary Bonsai family is enabling powerful on-device AI with minimal hardware requirements, the benefits extend well beyond the edge.</p>
<div class="lb-trans"><p>虽然三元 Bonsai 系列的直接影响是使强大的设备内 AI 在最小硬件要求下成为可能，但其好处远不止于边缘。</p>
</div><p>The same efficiency gains allow datacenters to improve hardware utilization, lower operating costs, and significantly reduce energy consumption. As the cost of AI infrastructure continues to rise, intelligence density is emerging not only as a product differentiator, but as a strategic priority for the industry.</p>
<div class="lb-trans"><p>同样的效率提升使数据中心能够改善硬件利用率，降低运营成本，并显著减少能耗。随着 AI 基础设施成本的持续上升，智能密度不仅作为产品差异化因素出现，还成为行业的战略优先事项。</p>
</div><p><strong>Pricing and Availability:</strong> Developers, researchers, and other users can download the Ternary Bonsai family of models under the Apache 2.0 license for free starting today.</p>
<div class="lb-trans"><p><strong>定价和可用性：</strong> 开发者、研究人员和其他用户可以从今天开始在 Apache 2.0 许可下免费下载三元 Bonsai 模型系列。</p>
</div><ul>
<li>Download 1-bit Ternary Bonsai Models here</li>
</ul>
<div class="lb-trans"><ul>
<li>在此下载 1 位三元 Bonsai 模型</li>
</ul>
</div><p><strong>About PrismML:</strong> PrismML is a U.S.-based artificial intelligence company focused on making AI more efficient and accessible. PrismML is built on proprietary Caltech intellectual property and backed by Khosla Ventures, Cerberus Ventures, and compute grants from Google and Caltech. For more information, visit the Website, LinkedIn, or X.</p>
<div class="lb-trans"><p><strong>关于 PrismML：</strong> PrismML 是一家总部位于美国的人工智能公司，专注于使 AI 更高效和可及。PrismML 基于加州理工学院的专有知识产权，并得到了 Khosla Ventures、Cerberus Ventures 以及来自 Google 和加州理工学院的计算补助的支持。有关更多信息，请访问网站、LinkedIn 或 X。</p>
</div><p><em>All registered trademarks and product identifiers belong to their respective corporate entities. Any other trademarks or product names referenced here are also owned exclusively by their relevant companies.</em></p>
<div class="lb-trans"><p><em>所有注册商标和产品标识均属于其各自的公司实体。此处提到的任何其他商标或产品名称也均由相关公司独家拥有。</em></p>
</div><p><strong>Media Contact</strong> Gary Bird</p>
<div class="lb-trans"><p><strong>媒体联系人</strong> Gary Bird</p>
</div><p>PrismML</p>
<div class="lb-trans"><p>PrismML</p>
</div><p>[email protected]</p>
<div class="lb-trans"><p>[email protected]</p>
</div><p>831.888.9011</p>
<div class="lb-trans"><p>831.888.9011</p>
</div><p>SOURCE PrismML</p>
<div class="lb-trans"><p>来源 PrismML</p>
</div><p><img src="https://imageproxy.pbkrs.com/https://rt.prnewswire.com/rt.gif/query-RGF0ZUlkPTIwMjYwNDE2Jk5ld3NJdGVtSWQ9U0YzNjY1NiZUcmFuc21pc3Npb25fSWQ9MjAyNjA0MTYxNDAwUFJfTkVXU19VU1BSX19fX19TRjM2NjU2" alt="" original-src="https://rt.prnewswire.com/rt.gif?NewsItemId=SF36656&amp;Transmission_Id=202604161400PR_NEWS_USPR_____SF36656&amp;DateId=20260416"/></p>

PrismML 推出了三元 Bonsai 模型系列