@SemiAnalysis

NVIDIA LPU 支持三种解耦推理模式：

突发新闻：AMD 中层管理人员正在浪费 20 多名工程师的时间，试图通过一个名为 “ATOM 推理引擎” 的无用副项目来扩张自己的势力范围并获取晋升，而不是将精力投入到 Meta/xAI 等实际客户使用的推理引擎（如 SGLang/vLLM）上。

数十名 AMD 工程师，包括首席工程师和 AMD 院士，已私下向我们反映，由于办公室政治以及 AMD 部分中层管理人员的支持，他们被阻止内部讨论对中层管理人员将 20 多名全职工程师的时间浪费在几乎没有客户的副项目上的担忧。参与该副项目的工程师都是 10 倍效率工程师，本应致力于 vLLM/SGLang 等客户引擎的开发。

中层管理人员会试图引用生产环境中唯一使用该引擎的客户——阿里巴巴的 Qwen——来应对质疑，但深入挖掘后发现，这只是一个以有限规模部署 ATOM 的边缘业务企业部门，而非主要的 Qwen 业务部门。

AMD 管理层从支持 vLLM/SGLang 等生产引擎的客户工程师手中抽调资源及有限的内部 GPU 研发集群，用于扩张其势力范围和玩弄办公室政治，这对 AMD 工程师来说是极其不尊重的行为。

我们已 extensively 撰文分析，预计中的 AI IT 和 AI 数据中心资本支出将推动创纪录的资金需求，并导致债务发行量以前所未有的速度增长。到今年年底，AI 累计终身资本支出将达到近 3 万亿美元，我们预计这一数字在 2020 年代末将增长至 1.1 万亿美元以上，未偿还的 AI 债务总额将达到 7 万亿美元以上。2026 年将成为 AI 债务融资成为第二大资产相关债务市场的元年，仅次于美国住宅抵押贷款市场。这也是 AI 相关债务发行总量占美国固定收益发行总量比例首次低于 10% 的最后一年（包括州债和联邦债券、MBS/RMBS、公司债、机构债、市政债和 ABS）。(1/3)🧵

很高兴看到来自热门中国社交媒体应用（@xiaohongshu，英文名为 RedNote）的 @dotsstudioai 加入开源社区！❤️ 团队仍在日常使用中测试该模型，以评估其实际质量，或者是否达到了评估的最高水平。

无论如何，看到另一家公司加入开源社区总是令人欣喜的！

不同的操作系统和微架构如何影响终端用户使用代理式 AI 的体验？

NPO 在从可插拔向真正 CPO（共封装光学）过渡的阶段提供了一种中间解决方案。与绕过当前 CPO 生产及可靠性挑战的 CPO 相比，NPO 具有一定的优势，同时保留了 CPO 提供的大部分好处。

这是互动诱饵 & 激进观点 🚨《波西·杰克逊》在叙事方面比《奥德赛》更好。《奥德赛》是克里斯托弗·诺兰最糟糕的电影之一。叙事如此糟糕，以至于他们不得不通过添加 IMAX 70mm 摄像机来分散观众的注意力。

另外提醒一下那些没有幸好在 IMAX 70mm 胶片上观看的你们，你们错过了电影 40% 的内容。

AMD 的大部分顶级 AI 工程师（追求 10 倍回报的）都在上海 🔥。这包括 AMD 的 MoRI 集体、UMBP KV-cache 卸载和池化团队，其解耦应用的前端部署工程团队，以及其他理解如何从第一性原理出发进行推理工程的 AMD 团队。

ROCm 软件栈中许多最重要的组件是在中国大陆开发的。

美国的数据中心之争迄今为止一直贯穿县议会和市议会。但这一局面在 7 月 14 日结束，当时州长凯西·霍楚尔签署了第 62 号行政命令，使纽约成为首个实施数据中心暂停令的州。(1/5)🧵

SemiAnalysis 数据中心团队追踪所有数据中心站点。数据中心团队开始注意到新建项目缺少发电机组。数据中心团队检查了工业模型，目前追踪到 15GW+ 的产能没有配备发电机组、没有中央 UPS，或者两者都没有。(1/3)🧵

Claude 使用工具的频率是多少？

我们认为，MI455 是首款已知搭载有源硅互连（LSI）桥接器的芯片，该桥接器用于 CoWoS-L 封装内的 chiplet-to-chiplet 链路。

AMD MI355X vLLM 在 Kimi K2.5（与 XAI Cursor Composer 2.5 相同的模型架构）上击败了 B200 vLLM。🚀🚨

磷化铟 (InP) 激光器突然引起了所有人的兴趣，因为它突然成为计算中更具战略性的组件之一。随着光连接越来越接近封装，每个光引擎和激光源都不可避免地运行在 InP 激光器上。但供应跟不上需求，特别是对于支持近封装光连接的连续波 (CW) 分布式反馈 (DFB) 激光器。（1/2）🧵

你是否曾好奇，为什么 PCB（印制电路板）行业的人总是把 “M8” 或 “M9” 像魔法咒语一样随口挂在嘴边？

@GPU_MODE 干得漂亮 🚨 启动 110 万美元 AMD 内核黑客松。GPUMODE Readonflow 团队的核函数将端到端 MI355X 性能提升了 2 倍以上。我们在下面解释这些优化措施。1/4🧵

乐高数据中心的狂野西部

AMD 与 OpenAI 和 Meta 的权证交易通常被描述为股权甜头。算一下账，这些看起来更像是与计算本身价格相匹配的回扣，对 OpenAI 的折扣高达 105%。(1/3)🧵

Vera Rubin NVL72 与 GB200 NVL72 对比？推理总拥有成本 (TCO) 及架构分析：

警报🚨🚨：META 定制的 AMD MI400 系列芯片尺寸仅为普通 MI455X 芯片的一半。它针对推荐系统工作负载和每美元内存带宽进行了 “优化”。它将使用约 144GB 的 HBM，而不是 432GB。我们在下方详细拆解👇️ 1/7🧵

数据中心历来会在现场配备往复式发动机作为应急备用电源，在电网中断时启动，每年仅运行数十小时。这一角色正在发生变化，因为往复式发动机正越来越多地被重新定位为基荷电源，为数据中心提供全天候能源。我们估计，往复式发动机原始设备制造商（如卡特彼勒、INNIO、康明斯）今年已签约供应约 1 GW 的离网电力，2027 年和 2028 年每年的供应量将超过 4 GW。我们的 SemiAnalysis 能源模型按原始设备制造商和项目跟踪这些离网合同。然而，这与未来的机遇相比只是九牛一毛。(1/3)🧵

AMD @sgl_project 团队在启用夜间分离式服务 CI 以提高代码质量方面做得非常出色！正如我们之前解释的那样，它已经发现并阻止了 2 个重大错误到达客户手中 👇️ 1/7🧵

类似于对 DeepSeek R1 的恐慌，一些缺乏知识的人认为 Kimi K3 使用线性注意力（KDA）对 NVIDIA、HBM、DRAM 和网络不利，因为其 KV-cache 需求相对较低。事实恰恰相反，我们在下面解释原因。👇️ 1/8🧵

突发：博通正在摆脱长期代工合作伙伴台积电。乐高将成为博通旗舰级超大规模 ASIC 产品 2028 年的新制造合作伙伴。博通半导体解决方案总裁 Charlie Kawwas 上周在巴黎 RAISE 峰会上已经展示了封装样品。由于台积电供应受限，客户正从意想不到的地方寻找芯片供应的替代来源。乐高带来的主要差异化优势包括行业领先的缺陷修复、“即插即用” 的 chiplet 互操作性，以及用于 3D 堆叠的内置自对准技术。美泰和孩之宝也曾被考虑，但最终乐高的可靠记录胜出。我们已订购多个千年隼套装，送往我们的波特兰拆解实验室进行竞争性拆解分析。