Google 在 Cloud Next 大會上發佈 TPU 8t 和 TPU 8i。TPU 8t 專為訓練前沿模型而打造；TPU 8i 專為推理、低延遲智能體人工智能工作負載以及更復雜的推理任務而打造。

與前代產品相比，8t 的每瓦性能提升 124%，8i 提升 117%，8i 的性價比也比 Ironwood 高出 80%

TPU 8t 在傳統 3D Torus 之上疊加了一層全新的高基數無阻塞交換 fabric——Virgo Network，47 Pb/s 高基數交換，並通過 JAX+Pathways 可擴展至單一訓練集羣超過 100 萬顆 TPU 芯片，DCN 也 4 倍增長，TPU 8i Boardfly pod 頂層強制 OCS 全互聯 36 個 Group，長距光模塊用量顯著上修（可能 2×以上），且速率從 800G 升級到 1.6T（部分場景 3.2T），單端口 ASP 亦同步抬升。谷歌的新 TPU 集羣，HBM 用量約為前代的 6.8 倍。

越漲越便宜了。