7月21日 早上07:32
美銀:中國半導體
> 轉向系統級超級節點:中國領先的 AI 加速器和基礎設施供應商正將重點從獨立芯片性能轉向通過廣泛推出機架級超級節點(從 64 張卡到超過 1,000 張卡,例如華為和壁仞科技架構)的系統級集成。這種策略有助於通過更高的密度、更快的互連和並行計算來彌補單個芯片的性能差距。> PCIe 交換機需求增長:大多數超級節點計算托盤具有 2:1 的高 XPU-交換機比率(每四個 GPU 配兩個 PCIe 交換機),推動了對 PCIe 交換機的顯著需求,以處理計算托盤內增加的密度和複雜的 I/O 配置。> 邊緣 AI 和 AIoT 的擴展:邊緣 AI 正從智能手機和個人電腦擴展到更廣泛的 AIoT 類別,如 AI 眼鏡、玩具、音頻產品、車載盒子、工業終端和機器人。結合主機處理器與邊緣 AI 協處理器(如瑞芯微的雙芯片設計)的架構正在提高每台設備的半導體內容價值。> Kimi K3 的影響:月之暗面推出的 Kimi K3 驗證了持續的基礎設施需求,其擁有 2.8 萬億參數的混合專家(MoE)架構、原生多模態能力和 100 萬 token 上下文窗口。> K3 帶來的硬件和內存需求增加:K3 的規模增加了高帶寬內存(HBM)容量需求(在緩存和緩衝區之前需要約 1.4TB 的原始模型存儲),而其專家數量躍升至 896 個,每個 token 激活 16 個專家,對內存帶寬、高效的專家路由和擴展互連效率提出了沉重負擔。$美光科技(MU.US) $DRAM $EWY本文版權歸屬於原作者/機構。
以上內容僅代表作者個人觀點,不代表平台立場。本內容僅供投資參考,不應被視為投資建議。如您對平台提供的內容服務有任何疑問或建議,請聯繫我們。
