智通财经 APP 获悉，高通 (QCOM.US) 和 Meta Platforms(META.US) 宣布，从 2024 年开始，Meta 的新大型语言模型 Llama 2 将在采用高通芯片的手机和个人电脑上运行。到目前为止，大型语言模型主要在采用英伟达 (NVDA.US) 图形处理器 (GPU) 的大型服务器群中运行，因为该技术对计算能力和数据的需求巨大，这提振了英伟达的股价，该股今年以来上涨了逾 220%。但高通等为手机和个人电脑制造尖端处理器的公司在很大程度上错过了人工智能的繁荣。到目前为止，高通股价在 2023 年上涨了约 10%，落后于纳斯达克指数 36% 的涨幅。周二的声明表明，高通希望将其处理器定位为非常适合人工智能，但要 “在边缘” 或设备上运行，而不是 “在云端”。如果大型语言模型可以在手机上运行，而不是在大型数据中心运行，这可能会降低运行人工智能模型的巨大成本，并可能带来更好、更快的语音助手和其他应用程序。高通认为，在高通设备上提供 Meta 的开源 Llama 2 模型将使智能虚拟助手等应用成为可能。Meta 的 Llama 2 可以做许多与 ChatGPT 相同的事情，但它可以被打包成一个更小的程序，这使得它可以在手机上运行。高通的芯片包括一个张量处理单元 (TPU)，非常适合人工智能模型所需的各种计算。然而，与配备尖端 GPU 的数据中心相比，移动设备上可用的处理能力相形见绌。Meta 的 Llama 之所以引人注目，是因为 Meta 公布了它的 “权重”，这是一组有助于管理特定人工智能模型如何工作的数字。这样做将允许研究人员以及企业在自己的计算机上使用人工智能模型，而无需征得许可或付费。其他著名的人工智能模型，如 OpenAI 的 GPT-4 或谷歌的 Bard，都是闭源的，它们的权重也是严格保密的。高通过去曾与 Meta 密切合作，特别是在 Quest 虚拟现实设备的芯片方面。高通还展示了一些在其芯片上缓慢运行的人工智能模型，比如开源图像生成器 Stable Diffusion。

高通

高通和 Meta Platforms 宣布，从 2024 年开始，Meta 的新大型语言模型 Llama 2 将在采用高通芯片的手机和个人电脑上运行。

高通和 Meta 计划在手机上运行大型 AI 模型