KV 缓存这件事是噪音。首先这是一篇论文，大约一年前发表的。但导致抛售的是谷歌的一篇博客文章。看到类似的情况了吗？这不就像深度求索那件事吗？市场正在把一篇有前景的技术论文当作明天早上就要部署来定价。此外，节省下来的内存可能会被用来提供更多容量，比如更多的并发会话或更大的上下文窗口？那么它不会减少传统内存需求，反而可能进一步推高需求？这又是一次逢新消息就卖出的操作。