谷歌的 TurboQuant...

以及它對$閃迪(SNDK.US)、$美光科技(MU.US)、SK 海力士和其他公司的影響：

它的作用：

-> KV 緩存內存佔用減少 6 倍

-> 在 H100 GPU 上實現 8 倍加速

它是一種壓縮算法。

那麼...它會打壓內存需求嗎？

-> 可能不會。

不過，這對$Arm(ARM.US) 和其他可以在本地運行 AI（而不是依賴 DRAM 密集型數據中心）的公司來説，可能是利好消息。

然而：

-> 這基本上算是 DeepSeek 的第三輪。你可以讓算法更高效。但這並不能取代內存或 GPU。

-> 它可能在結構上（略微）減少 DRAM 需求。

-> 我認為目前它只在像 Gemma、Mistral 和 Llama-3.1 這樣的小模型上進行了測試（而且論文已經發表一年了）。

另外，市場把 DRAM 和 NAND 混為一談了...這個算法壓縮的是 KV 緩存（DRAM）。對 NAND 存儲沒什麼影響？

無論如何：

算法總會變得更高效。人們一直在説傑文斯悖論，這是對的，因為這隻會擴大使用場景。

主要需要關注的是超大規模企業的資本支出預測，而不是讓事情變得更高效的谷歌算法。

感覺更像是一種敍事上的逆風，而不是對盈利有實質性影響的東西。

來源：Serenity