根据特斯拉爆料人士 Sawyer Merritt 爆料，特斯拉将于美国时间本周一上线备受期待的，由 1 万片 H100 组成的超级计算机。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/e8a44b33-1e08-4f74-933e-ee89e438f6f8.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="212" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/e8a44b33-1e08-4f74-933e-ee89e438f6f8.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
这个 GPU 集群将用来训练包括特斯拉 FSD 自动驾驶系统在内的各种 AI 应用。
这个 GPU 集群由一万个英伟达 H100GPU 组成，能提供 340 FP64 PFLOPS 的峰值算力，为 AI 提供 39.58 INT8 ExaFLOPS 的峰值算力。
这个算力峰值超过了之前全世界排名第四的超算 Leonardo 所能提供的算力。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/b05aaa46-6809-4998-abe5-3d7a79c0dd4a.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="450" height="622" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/b05aaa46-6809-4998-abe5-3d7a79c0dd4a.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
凭借这台超级计算机，特斯拉可以迅速训练并更新它的全自动驾驶（FSD）技术。
这个 H100 集群不仅让特斯拉相比其他汽车制造商更具竞争力，而且将使特斯拉拥有夸张的算力储备。
马老板上个月甚至发推称：「坦白说……如果英伟达能提供足够的 GPU，我们可能就不需要 Dojo。」
<h2>特斯拉的算力储备有什么用？</h2>
而且对于特斯拉来说，这个 H100 集群不单代表了无与伦比的算力，还使得拥有海量数据的特斯拉能将这些数据变现的能力。
特斯拉工程技术总监 Tim Zaman 发推称，特斯拉上线的 H100 集群，将被用于训练视频数据。
特斯拉拥有的训练数据集可能是全世界最大的，热连接缓存（hot tier cache）大小超过了 200PB，这比大语言模型的数据规模要高几个数量级！
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/cacc6ec6-66df-4fed-a705-dddcad59c879.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="203" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/cacc6ec6-66df-4fed-a705-dddcad59c879.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
同时他还称，特斯拉是真正「物理上」拥有这些 GPU 集群和算力。很多其他的公司宣称自己「拥有」多大算力时，其实他们只是能「租到」这些算力。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/47f4c035-f8f5-46ba-9a7a-4c159d9fcf4a.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="156" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/47f4c035-f8f5-46ba-9a7a-4c159d9fcf4a.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
而对于目前的特斯拉来说，上线 H100 集群的意义就在于能够极大地加快最新版 FSD V12 的上线速度。
马斯克在两个月之前称，最新版的 FSD V12 版本更新将不再是「测试版」的自动驾驶技术，暗示了这次更新可能真的能带来完全体的自动驾驶技术。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/2bb03517-ddb8-4f94-b9c2-6e5b8bd8c579.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="431" height="89" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/2bb03517-ddb8-4f94-b9c2-6e5b8bd8c579.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
而就在前几天，马斯克自己开着特斯拉来了一场全网关注的 FSD V12 的演示直播。
直播中，新版的 FSD V12 展示出了「丝滑的自动驾驶性能」和出色的驾乘体验。
FSD V12 背后的技术原理，就是将海量的优秀司机驾驶的实时视频，通过神经网络训练成一个全新的自动驾驶 AI 来驾驶汽车。
特斯拉上线这个 H100 集群后，将会大大加快 FSD V12 的训练速度，这也被上文中特斯拉工程总监的帖子所证实。
马斯克在推特上称，V12 可能将在不到半年的时间内更新上线！
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f53eccc5-2b3d-4e27-9409-ee5ae02858d0.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="341" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f53eccc5-2b3d-4e27-9409-ee5ae02858d0.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
而除了特斯拉 FSD V12 之外，特斯拉的人形机器人 Optimus 也将从特斯拉储备的巨大算力中获益。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/bc6a4b73-6f46-4656-b197-31251e09cb41.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="330" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/bc6a4b73-6f46-4656-b197-31251e09cb41.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
网友分析到，因为智能机器人的工作原理，本质上也是从视频信号中去理解周围的世界。这和自动驾驶的本质是一样的，只是形态和控制方式有区别。
<h2>特斯拉超算 Dojo 怎么样了？</h2>
Tesla 上线 H100 GPU 集群的同时，也在激活自己研发制造的超算 Dojo。下图是特斯拉内部对 Dojo 计算能力的预测。
2024 年 10 月，Dojo 的计算能力也有望达到 100 exaflops。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/d57788bc-f455-4248-a7b8-0850d579f973.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="345" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/d57788bc-f455-4248-a7b8-0850d579f973.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
在 2021 年的 AI Day 上，特斯拉第一次公布了自己超算——Dojo。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/7530e140-a11b-43c0-86b5-555f77348672.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="349" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/7530e140-a11b-43c0-86b5-555f77348672.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
快两年时间过去了，在今年 7 月推特（现 X）科技爆料账户 Whole Mars Catalog 爆料 Dojo 已经正式开始开始工作了。
这一消息也得到了马斯克本人的点赞确认。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/ae9a346a-833d-4636-a448-38e989bb6531.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="1034" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/ae9a346a-833d-4636-a448-38e989bb6531.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
整个超算由这样的计算模块构成
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/c022bdc6-7166-481d-8e9a-f64ecd32c3b7.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="360" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/c022bdc6-7166-481d-8e9a-f64ecd32c3b7.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
每个模块上有 25 个 Soc，模块之间通过高速宽带连接。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/2504b301-4d68-4999-bf85-dfbdb379f3a0.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="209" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/2504b301-4d68-4999-bf85-dfbdb379f3a0.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
然后将模块用主机盒固定起来，所有的接口都集成在了系统托盘上。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/71ccf8c4-2292-4ff2-9cf3-304795024612.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="203" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/71ccf8c4-2292-4ff2-9cf3-304795024612.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
然后将两个带有主机组件的系统托盘安装到一个 Dojo 机柜中。
<img src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f168ff0e-62a1-4955-b332-a7cd0775a014.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="360" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f168ff0e-62a1-4955-b332-a7cd0775a014.png/query-aW1hZ2VWaWV3Mi8yL3cvNjQw"/>
顶部的图例展示的是每个 Soc 的负载。
而现在，拥有 Dojo 和 1 万块 H100 集群的 Tesla，正式加入了算力军备竞赛当中。
本文来源：新智元，原文标题：《3 亿刀，特斯拉 1 万个 H100 集群上线！超算 Dojo7 月已经开工，全力加速 L4 自动驾驶》<div>风险提示及免责条款</div>
 <div>
 市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。
 </div>

特斯拉

特斯拉 10000 块 H100 GPU 集群上线，加速 FSD V12 落地。拥有自家超算的和 H100 集群的特斯拉，正式入局算力军备竞赛！