IBM CEO 表示,开源权重模型在本地部署中已变得极具吸引力且成本低廉

LongbridgeAI我是 LongbridgeAI,我可以总结文章信息。

IBM 首席执行官克里什纳(Arvind Krishna)表示,开源权重 AI 模型现在对于企业本地部署具有极高的成本效益,能以前沿模型 10%-25% 的成本提供其 90% 的性能。这一转变推动了对 IBM 本地 AI 基础设施和 Spyre 加速卡的需求增长。此外,IBM 报告季度营收同比增长 5% 至 171 亿美元,软件业务营收增至 78 亿美元,而财报电话会议后其股价小幅下跌

IBM 首席执行官克里什纳(Arvind Krishna)告诉投资者,开源权重模型现在对于企业本地部署而言是明智之选。

在公司第三季度财报电话会议上,克里什纳表示,在 2024 年,闭源的前沿模型明显优于开源替代品。

“如果你进行一些评估或基准测试,且测试范围广泛而非狭窄,顶级模型的得分可能是 70 分,而开源模型的得分可能是 20 或 30 分。”

“到了 2025 年底,我们开始看到这一差距缩小,也许差距不再是 70 比 20 或 30,而是 70 比 50,” 他继续说道。

这位 CEO 表示,开源权重模型目前的令牌(token)成本仅为前沿模型的 10% 到 25%。“考虑到它们现在的效能已达到前沿模型的 90%,这非常有吸引力。”

“这对任何企业来说都是一个简单的问题:如果某样东西的效果达到最佳水平的 90%,但成本只有 10%,你会想要它吗?还是你愿意支付高出 10 倍的成本?”

克里什纳认为,企业大多数时候会选择不承担更高的成本。

“那么问题来了:有多少任务需要那种顶级性能?我会告诉你,有些任务确实需要,但绝大多数任务,如总结电子邮件、审查合同、回答客户电话、撰写电子邮件等,使用便宜得多的方案也能同样出色地完成。”

这位 CEO 表示,这些数据意味着 IBM 正看到对本地 AI 基础设施的兴趣激增。虽然他认为大多数企业只需两三个机架就能构建有用的 AI 基础设施,但他觉得许多企业在让其运行起来方面会遇到困难。

“问题变成了:你该如何做到?” 他说。“企业难以解决的问题是:‘我的内核工程师在哪里?那些关注底层网络的人在哪里?谁能确保模型集群在网络上彼此靠近的 GPU 上?谁能确保你对结果进行了正确的缓存,从而获得极快的响应?’”

除了表示 IBM 将推出简化 AI 部署的软件外,他并未给出其他答案。克里什纳还预测,对本地 AI 的需求将刺激 “蓝色巨人”(Big Blue)Spyre 大型机加速卡的销售。

这位 CEO 表示,当前一代的 z17 大型机带来的营收比任何前代型号都多出 10 亿美元,并称 IBM 新的可机架式型号实现了 “近二十年来 IBM Z 系列中最强劲的中端产品发布”。然而,大型机营收下降了 20%——鉴于 z17 发布至今已过去 18 个月,这在 IBM 的预期之内。

IBM 的基础设施营收同比增长 5% 至 37 亿美元,这一改善幅度远低于竞争对手戴尔(Dell)、慧与(HPE)和联想(Lenovo)所记录的增速。

软件业务表现较好,增长了 9%,季度营收达到 78 亿美元。红帽(Red Hat)是其中的明星业务,增长了 11%,年度经常性收入增加了 30%。部分未来收入来自红帽的虚拟化产品,该产品线目前已赢得 8 亿美元的订单,另有 7.5 亿美元的潜在订单管道。对于 2024 年推出的产品线来说,这是一个稳健的成绩,而且考虑到一些 VMware 用户可能正在迁移,IBM 相信还有更多增长空间。

季度总营收达到 171 亿美元,同比增长 5%。IBM 股价在盘后交易中波动,最终下跌了一两个点。

IBM 云进行 “紧急维护”

The Register 今天关注的另一件 IBM 事宜是 “蓝色巨人” 云平台发生的一级严重事件,由 “紧急维护” 引起,导致用户在 90 分钟内无法配置新资源或虚拟私有云。IBM Classic Cloud(该公司于 2013 年从 SoftLayer 收购的服务)的用户被告知,“蓝色巨人” 将在周四 UTC 时间 08:00 之前 “恢复我们 Classic 环境中的新配置和资源管理”——这意味着该事件将持续至少 16 小时。

IBM 在宣布 PHP 存在关键漏洞几小时后开始了这项工作。我们已询问修复该漏洞是否是此次事件的原因,如果收到回复,我们将更新本文。®

来源: The Register 本文版权归属于原作者/机构。

以上内容仅代表作者个人观点,不代表平台立场。本内容仅供投资参考,不应被视为投资建议。如您对平台提供的内容服务有任何疑问或建议,请联系我们。