Google 在 Cloud Next 大会上发布 TPU 8t 和 TPU 8i。TPU 8t 专为训练前沿模型而打造;TPU 8i 专为推理、低延迟智能体人工智能工作负载以及更复杂的推理任务而打造。

与前代产品相比,8t 的每瓦性能提升 124%,8i 提升 117%,8i 的性价比也比 Ironwood 高出 80%

TPU 8t 在传统 3D Torus 之上叠加了一层全新的高基数无阻塞交换 fabric——Virgo Network,47 Pb/s 高基数交换,并通过 JAX+Pathways 可扩展至单一训练集群超过 100 万颗 TPU 芯片,DCN 也 4 倍增长,TPU 8i Boardfly pod 顶层强制 OCS 全互联 36 个 Group,长距光模块用量显著上修(可能 2×以上),且速率从 800G 升级到 1.6T(部分场景 3.2T),单端口 ASP 亦同步抬升。谷歌的新 TPU 集群,HBM 用量约为前代的 6.8 倍。

越涨越便宜了。

本文版权归属原作者/机构所有。

当前内容仅代表作者观点,与本平台立场无关。内容仅供投资者参考,亦不构成任何投资建议。如对本平台提供的内容服务有任何疑问或建议,请联系我们。