--- title: "PrismML 推出了三元 Bonsai 模型系列" type: "News" locale: "zh-CN" url: "https://longbridge.com/zh-CN/news/283039371.md" description: "PrismML 推出了三元小树模型系列，包含三种先进的大型语言模型（8B、4B 和 1.7B 参数），采用新颖的 1.58 位权重架构。这一创新将内存使用量显著减少了约 9 倍，相较于标准模型，使得在从边缘设备到数据中心的各种平台上高效部署 AI 成为可能。这些模型承诺增强推理能力，同时降低硬件需求。三元小树模型在 Apache 2.0 许可证下免费提供，旨在重新定义 AI 技术中的智能密度" datetime: "2026-04-16T18:00:40.000Z" locales: - [zh-CN](https://longbridge.com/zh-CN/news/283039371.md) - [en](https://longbridge.com/en/news/283039371.md) - [zh-HK](https://longbridge.com/zh-HK/news/283039371.md) --- # PrismML 推出了三元 Bonsai 模型系列 _以每个权重仅 1.58 位传递顶级智能_ , /PRNewswire/ -- PrismML，一家高性能 AI 模型的先驱，今天宣布推出三元 Bonsai 模型系列：三种最先进的大型语言模型，参数规模分别为 8B、4B 和 1.7B，基于一种新颖的 1.58 位权重架构。 在最近推出全球首个商业可行的 1 位模型的基础上，PrismML 继续推动高效 AI 的边界。从笔记本电脑和边缘设备到嵌入式系统和大规模数据中心基础设施，该公司正在推进一种以智能密度为中心的新范式——每单位内存、计算和能量传递的推理能力。 “智能密度是下一代 AI 的一个定义性指标，” PrismML 的首席执行官兼创始人 Babak Hassibi 说道，他还是加州理工学院的教授。“通过三元 Bonsai，我们在显著减少内存、能量和硬件需求的同时，提供了显著更多的推理能力。这在以前不切实际或不可能的环境中解锁了强大的 AI。” **关于三元 Bonsai 模型系列：** 三元 Bonsai 模型使用三元权重表示法，其中每个权重取三个值之一：{-1, 0, +1}，对应于每个权重 1.58 位。PrismML 的专有架构在整个网络中端到端应用这种表示法。 每个权重仅 1.58 位，这些模型相比标准的 16 位模型实现了显著更小的内存占用： - **三元 Bonsai 8B**：约 1.75 GB（对比约 16.4 GB） - **三元 Bonsai 4B**：约 0.86 GB（对比约 8 GB） - **三元 Bonsai 1.7B**：约 0.37 GB（对比约 3.4 GB） 这在所有模型规模上大约代表了 **9 倍的内存使用减少**。 与 PrismML 的 1 位 Bonsai 8B 模型相比，三元 Bonsai 8B 在仅需约 600 MB 额外内存的情况下，平均提升了 5 个基准点。尽管体积紧凑，但所有三款模型在各自参数类别的标准基准测试中均优于大多数领先的全精度模型。 三元 Bonsai 模型是完全三元的端到端模型。没有更高精度的逃生舱。嵌入、注意力层、MLP 和 LM 头都使用相同的 1.58 位表示法。模型采用分组量化方案，每个权重被限制为三个值之一：{-s, 0, +s}。这三种状态使用 1.58 位编码为 (-1, 0, +1)，并为每组 128 个权重共享一个 FP16 缩放因子 (s)。 **从边缘到数据中心：每个规模的智能密度** 虽然三元 Bonsai 系列的直接影响是使强大的设备内 AI 在最小硬件要求下成为可能，但其好处远不止于边缘。 同样的效率提升使数据中心能够改善硬件利用率，降低运营成本，并显著减少能耗。随着 AI 基础设施成本的持续上升，智能密度不仅作为产品差异化因素出现，还成为行业的战略优先事项。 **定价和可用性：** 开发者、研究人员和其他用户可以从今天开始在 Apache 2.0 许可下免费下载三元 Bonsai 模型系列。 - 在此下载 1 位三元 Bonsai 模型 **关于 PrismML：** PrismML 是一家总部位于美国的人工智能公司，专注于使 AI 更高效和可及。PrismML 基于加州理工学院的专有知识产权，并得到了 Khosla Ventures、Cerberus Ventures 以及来自 Google 和加州理工学院的计算补助的支持。有关更多信息，请访问网站、LinkedIn 或 X。 _所有注册商标和产品标识均属于其各自的公司实体。此处提到的任何其他商标或产品名称也均由相关公司独家拥有。_ **媒体联系人** Gary Bird PrismML \[email protected\] 831.888.9011 来源 PrismML ### 相关股票 - [PRSM.UK](https://longbridge.com/zh-CN/quote/PRSM.UK.md) - [SMH.UK](https://longbridge.com/zh-CN/quote/SMH.UK.md) - [KVSD.US](https://longbridge.com/zh-CN/quote/KVSD.US.md) - [GOOGL.US](https://longbridge.com/zh-CN/quote/GOOGL.US.md) - [GOOG.US](https://longbridge.com/zh-CN/quote/GOOG.US.md) ## 相关资讯与研究 - [三星半导体前总裁：预测存储价格明年下半年开跌，中国企业正在大幅扩产](https://longbridge.com/zh-CN/news/286834660.md) - [HRBP，AI 时代真正的 “铁饭碗”](https://longbridge.com/zh-CN/news/286866050.md) - [如何创建一家 AI Native 公司？](https://longbridge.com/zh-CN/news/286666891.md) - [为什么我总是让客户问 AI](https://longbridge.com/zh-CN/news/286935416.md) - [AI 时代，超级个体不是一个人](https://longbridge.com/zh-CN/news/287037345.md)