120B LLM 在旧电脑上运行:突破云端 AI 的设备

StartupHub
2025.12.29 16:50
portai
我是 PortAI,我可以总结文章信息。

Tiiny AI 展示了一款拥有 1200 亿参数的大型语言模型(LLM),能够在一台 14 年的旧电脑上离线运行,挑战了以云为中心的人工智能模型。Tiiny AI Pocket Lab 处理推理工作负载,使得高端人工智能可以在本地执行,而无需依赖云服务。这一突破承诺增强数据隐私和所有权,标志着个人人工智能的转变。Tiiny AI 计划在 2026 年消费电子展(CES)上展示这一技术,预示着获取先进人工智能能力的重大变化