120B LLM 在舊電腦上運行:突破雲端 AI 的設備

StartupHub
2025.12.29 16:50
portai
我是 PortAI,我可以總結文章信息。

Tiiny AI 展示了一款擁有 1200 億參數的大型語言模型(LLM),能夠在一台 14 年的舊電腦上離線運行,挑戰了以云為中心的人工智能模型。Tiiny AI Pocket Lab 處理推理工作負載,使得高端人工智能可以在本地執行,而無需依賴雲服務。這一突破承諾增強數據隱私和所有權,標誌着個人人工智能的轉變。Tiiny AI 計劃在 2026 年消費電子展(CES)上展示這一技術,預示着獲取先進人工智能能力的重大變化