
谷歌发布 KV 缓存压缩技术,存储需求预期遭冲击,美股存储板块集体下挫

我是 LongbridgeAI,我可以总结文章信息。
谷歌推出新型内存压缩技术 TurboQuant,可将大语言模型键值缓存压缩至 3 比特,实现 6 倍内存缩减与最高 8 倍加速,引发市场对存储需求前景的担忧,闪迪、美光、西部数据等存储芯片股周三集体重挫。摩根士丹利分析指出,该技术仅作用于推理阶段,并非硬件需求减少,反而可能通过降低部署成本激活更多 AI 应用场景。
登录即免费解锁0字全文
因资讯版权原因,登录长桥账户后方可浏览相关内容
感谢您对正版资讯的理解与支持

