@SemiAnalysis的投資觀點、原創帖子與市場討論

@

@SemiAnalysis昨日 17:06

NVIDIA LPU 支持三種解耦推理模式：

1. Rubin Prefill + LPU Decode，實現最快的交互速度

2. Rubin Prefill + Rubin Decode Attention + LPU Decode FFN，適用於曲線中段

3. Rubin Prefill + Rubin Decode Verification + LPU Drafter，適用於曲線中左側

對於低交互場景，原始 Rubin 仍佔優勢。期待在 AgentX 等開源智能體基準測試中看到 Rubin + LPU 的性能曲線。

@

@SemiAnalysis8月27日下午01:06

突發新聞：AMD 中層管理人員正在浪費 20 多名工程師的時間，試圖通過一個名為 “ATOM 推理引擎” 的無用副項目來擴張自己的勢力範圍並獲取晉升，而不是將精力投入到 Meta/xAI 等實際客户使用的推理引擎（如 SGLang/vLLM）上。

數十名 AMD 工程師，包括首席工程師和 AMD 院士，已私下向我們反映，由於辦公室政治以及 AMD 部分中層管理人員的支持，他們被阻止內部討論對中層管理人員將 20 多名全職工程師的時間浪費在幾乎沒有客户的副項目上的擔憂。參與該副項目的工程師都是 10 倍效率工程師，本應致力於 vLLM/SGLang 等客户引擎的開發。

中層管理人員會試圖引用生產環境中唯一使用該引擎的客户——阿里巴巴的 Qwen——來應對質疑，但深入挖掘後發現，這只是一個以有限規模部署 ATOM 的邊緣業務企業部門，而非主要的 Qwen 業務部門。

AMD 管理層從支持 vLLM/SGLang 等生產引擎的客户工程師手中抽調資源及有限的內部 GPU 研發集羣，用於擴張其勢力範圍和玩弄辦公室政治，這對 AMD 工程師來説是極其不尊重的行為。

@

@SemiAnalysis8月24日下午05:06

我們已 extensively 撰文分析，預計中的 AI IT 和 AI 數據中心資本支出將推動創紀錄的資金需求，並導致債務發行量以前所未有的速度增長。到今年年底，AI 累計終身資本支出將達到近 3 萬億美元，我們預計這一數字在 2020 年代末將增長至 1.1 萬億美元以上，未償還的 AI 債務總額將達到 7 萬億美元以上。2026 年將成為 AI 債務融資成為第二大資產相關債務市場的元年，僅次於美國住宅抵押貸款市場。這也是 AI 相關債務發行總量佔美國固定收益發行總量比例首次低於 10% 的最後一年（包括州債和聯邦債券、MBS/RMBS、公司債、機構債、市政債和 ABS）。(1/3)🧵

@

@SemiAnalysis8月15日下午02:06

很高興看到來自熱門中國社交媒體應用（@xiaohongshu，英文名為 RedNote）的 @dotsstudioai 加入開源社區！❤️ 團隊仍在日常使用中測試該模型，以評估其實際質量，或者是否達到了評估的最高水平。

無論如何，看到另一家公司加入開源社區總是令人欣喜的！

@

@SemiAnalysis8月10日晚上09:06

不同的操作系統和微架構如何影響終端用户使用代理式 AI 的體驗？

我們分析了 291 萬條實際的 Claude 工具使用響應以找出答案。

根據我們的數據，Linux 在執行 shell 命令時通常比 Windows 快約 3 倍。（1/2）🧵

@

@SemiAnalysis8月10日下午05:06

NPO 在從可插拔向真正 CPO（共封裝光學）過渡的階段提供了一種中間解決方案。與繞過當前 CPO 生產及可靠性挑戰的 CPO 相比，NPO 具有一定的優勢，同時保留了 CPO 提供的大部分好處。

優點：

🟠 更好的可維護性（現場可更換）

🟠 更小的故障影響範圍（影響範圍僅限於單個 NPO 模塊）

🟠 更易於組裝（光引擎與交換機 ASIC/XPU 分開封裝）

讓我們看看 NPO 在架構上如何與 CPO 區分開來。(1/3)🧵

@

@SemiAnalysis8月9日下午05:06

這是互動誘餌 & 激進觀點 🚨《波西·傑克遜》在敍事方面比《奧德賽》更好。《奧德賽》是克里斯托弗·諾蘭最糟糕的電影之一。敍事如此糟糕，以至於他們不得不通過添加 IMAX 70mm 攝像機來分散觀眾的注意力。

另外提醒一下那些沒有幸好在 IMAX 70mm 膠片上觀看的你們，你們錯過了電影 40% 的內容。

@

@SemiAnalysis8月6日晚上11:22

AMD 的大部分頂級 AI 工程師（追求 10 倍回報的）都在上海 🔥。這包括 AMD 的 MoRI 集體、UMBP KV-cache 卸載和池化團隊，其解耦應用的前端部署工程團隊，以及其他理解如何從第一性原理出發進行推理工程的 AMD 團隊。

ROCm 軟件棧中許多最重要的組件是在中國大陸開發的。

@

@SemiAnalysis8月6日凌晨12:02

美國的數據中心之爭迄今為止一直貫穿縣議會和市議會。但這一局面在 7 月 14 日結束，當時州長凱西·霍楚爾簽署了第 62 號行政命令，使紐約成為首個實施數據中心暫停令的州。(1/5)🧵

@

@SemiAnalysis8月5日凌晨01:26

SemiAnalysis 數據中心團隊追蹤所有數據中心站點。數據中心團隊開始注意到新建項目缺少發電機組。數據中心團隊檢查了工業模型，目前追蹤到 15GW+ 的產能沒有配備發電機組、沒有中央 UPS，或者兩者都沒有。(1/3)🧵

@

@SemiAnalysis8月4日下午04:56

Claude 使用工具的頻率是多少？

我們分析了收集的 227 萬條 Claude 回覆以找出答案。

Opus 模型顯示出從 Opus 4.6 到 Opus 4.8 工具調用量呈明顯的下降趨勢。然而，Fable 5 在這一模式中脱穎而出，其平均每次回覆的工具調用量為 1.00，而 Opus 4.8 為 0.76，Opus 5 為 0.79。（1/2）🧵

@

@SemiAnalysis8月4日凌晨02:06

我們認為，MI455 是首款已知搭載有源硅互連（LSI）橋接器的芯片，該橋接器用於 CoWoS-L 封裝內的 chiplet-to-chiplet 鏈路。

在 CoWoS-L 短暫的歷史中，這些橋接器始終是無源的：僅由佈線和電容器組成，別無其他。有源 LSI 則包含真實的電路。在 ISSCC 2026 上，台積電演示了帶有低功耗中繼器的有源橋接器，可在信道中間再生信號。

為何重要：一旦橋接器分擔了信號完整性的負擔，頂層 Die 上的 PHY 層就能以近乎零的能耗顯著縮小規模，從而釋放出先進製程硅片和邊緣區域，用於計算和內存。

表明這是量產產品而非研究車輛的關鍵線索是：台積電展示的中介層與 MI455 完全匹配。包括兩個基礎 Die、十二個 HBM4 堆棧和兩個 IO Die。

@

@SemiAnalysis8月1日下午05:06

AMD MI355X vLLM 在 Kimi K2.5（與 XAI Cursor Composer 2.5 相同的模型架構）上擊敗了 B200 vLLM。🚀🚨

這使用了來自 @GPU_MODE 社區的 AMD 上游內核。我們在下面進行解釋 👇 1/6🧵

@

@SemiAnalysis7月31日下午05:06

磷化銦 (InP) 激光器突然引起了所有人的興趣，因為它突然成為計算中更具戰略性的組件之一。隨着光連接越來越接近封裝，每個光引擎和激光源都不可避免地運行在 InP 激光器上。但供應跟不上需求，特別是對於支持近封裝光連接的連續波 (CW) 分佈式反饋 (DFB) 激光器。（1/2）🧵

@

@SemiAnalysis7月30日下午01:06

你是否曾好奇，為什麼 PCB（印製電路板）行業的人總是把 “M8” 或 “M9” 像魔法咒語一樣隨口掛在嘴邊？

“M” 源自松下電氣（Panasonic）的 Megtron 系列——長期以來，該系列一直是低損耗、高速覆銅板（CCL）的行業標杆。

從 Megtron 4 到 Megtron 8，每一代產品都逐步降低了介電損耗因子（Df），這意味着在高頻下信號損失更少。

由於 Megtron 設定了行業標準，它已成為性能層級的行業通用術語，而不再僅僅是松下獨有的零件編號。如今説 “M8 級”，僅僅意味着 “符合 Megtron 8 的電學規格”——無論是由松下、EMC 還是 Doosan 製造。

隨着 AI 服務器對 SerDes 速度要求越來越高，高端 CCL 已成為關鍵的瓶頸材料。這使得它成為整個硬件供應鏈中競爭最激烈、增長最快的細分市場之一。

@

@SemiAnalysis7月30日凌晨02:04

@GPU_MODE 幹得漂亮 🚨 啓動 110 萬美元 AMD 內核黑客松。GPUMODE Readonflow 團隊的核函數將端到端 MI355X 性能提升了 2 倍以上。我們在下面解釋這些優化措施。1/4🧵

@

@SemiAnalysis7月29日晚上10:14

樂高數據中心的狂野西部

人人都説它們是模塊化的，

供應商的説法站得住腳嗎？

扎克伯格的帳篷，AWS 的胡迪尼魔術，

追蹤到 60GW+ 的模塊化容量，

完整的供應商格局映射，

Vertiv 每兆瓦的內容提升 2 倍

@

@SemiAnalysis7月27日晚上09:04

AMD 與 OpenAI 和 Meta 的權證交易通常被描述為股權甜頭。算一下賬，這些看起來更像是與計算本身價格相匹配的回扣，對 OpenAI 的折扣高達 105%。(1/3)🧵

@

@SemiAnalysis7月23日凌晨02:45

Vera Rubin NVL72 與 GB200 NVL72 對比？推理總擁有成本 (TCO) 及架構分析：

Rubin LUT 張量核心，Feynman，

機架級規模，每兆瓦性能，每美元性能，

軟件改進，公開 Rubin 軟件，

PyTorch，vLLM，OpenAI Triton

立即閲讀：

@

@SemiAnalysis7月21日晚上07:52

警報🚨🚨：META 定製的 AMD MI400 系列芯片尺寸僅為普通 MI455X 芯片的一半。它針對推薦系統工作負載和每美元內存帶寬進行了 “優化”。它將使用約 144GB 的 HBM，而不是 432GB。我們在下方詳細拆解👇️ 1/7🧵

@

@SemiAnalysis7月21日下午01:32

數據中心歷來會在現場配備往復式發動機作為應急備用電源，在電網中斷時啓動，每年僅運行數十小時。這一角色正在發生變化，因為往復式發動機正越來越多地被重新定位為基荷電源，為數據中心提供全天候能源。我們估計，往復式發動機原始設備製造商（如卡特彼勒、INNIO、康明斯）今年已簽約供應約 1 GW 的離網電力，2027 年和 2028 年每年的供應量將超過 4 GW。我們的 SemiAnalysis 能源模型按原始設備製造商和項目跟蹤這些離網合同。然而，這與未來的機遇相比只是九牛一毛。(1/3)🧵

@

@SemiAnalysis7月20日晚上08:21

AMD @sgl_project 團隊在啓用夜間分離式服務 CI 以提高代碼質量方面做得非常出色！正如我們之前解釋的那樣，它已經發現並阻止了 2 個重大錯誤到達客户手中 👇️ 1/7🧵

@

@SemiAnalysis7月17日晚上10:51

類似於對 DeepSeek R1 的恐慌，一些缺乏知識的人認為 Kimi K3 使用線性注意力（KDA）對 NVIDIA、HBM、DRAM 和網絡不利，因為其 KV-cache 需求相對較低。事實恰恰相反，我們在下面解釋原因。👇️ 1/8🧵

@

@SemiAnalysis7月17日下午02:01

突發：博通正在擺脱長期代工合作伙伴台積電。樂高將成為博通旗艦級超大規模 ASIC 產品 2028 年的新制造合作伙伴。博通半導體解決方案總裁 Charlie Kawwas 上週在巴黎 RAISE 峯會上已經展示了封裝樣品。由於台積電供應受限，客户正從意想不到的地方尋找芯片供應的替代來源。樂高帶來的主要差異化優勢包括行業領先的缺陷修復、“即插即用” 的 chiplet 互操作性，以及用於 3D 堆疊的內置自對準技術。美泰和孩之寶也曾被考慮，但最終樂高的可靠記錄勝出。我們已訂購多個千年隼套裝，送往我們的波特蘭拆解實驗室進行競爭性拆解分析。