---
type: "Topics"
locale: "zh-HK"
url: "https://longbridge.com/zh-HK/dolphin/post/44215441.md"
description: "內存不夠用，多數人第一反應是"容量不夠"、加錢堆就行。但真正難翻的，是帶寬這道牆。先看供給側：內存帶寬長期追不上算力。從 B100 到 GB300 連續五代，帶寬一直卡在 8TB/s 不動，而"帶寬/算力"比值從 1.1 一路掉到 0.5——等於 GPU 越來越多時間在乾等數據。新一代 Rubin 用上 HBM4，總帶寬提到 22TB/s，可算力同步又翻了兩三倍，比值仍只有 0.6，牆沒拆掉。再看需求側，更陡：推理要讀的數據量，隨生成長度呈"平方級"增長。每吐一個新字，都要把激活參數和此前全部緩存重讀一遍。上下文長 10 倍，讀取量漲的是 100 倍——Qwen3.8 Max 在 10 萬字上下文上再生成 10 萬字，讀取量級就到約 500TB。供給追不上、需求還在平方級膨脹，帶寬才是存力裏最硬的那塊短板。"
datetime: "2026-10-07T06:12:33.000Z"
locales:
  - [en](https://longbridge.com/en/dolphin/post/44215441.md)
  - [zh-CN](https://longbridge.com/zh-CN/dolphin/post/44215441.md)
  - [zh-HK](https://longbridge.com/zh-HK/dolphin/post/44215441.md)
author: "[Dolphin Research](https://longbridge.com/zh-HK/dolphin.md)"
generator: "portal-rs"
---

# 內存不夠用，多數人第一反應是"容量不夠"、加錢堆就行。但真正難翻的，是帶寬這道牆。先…


---
> **免責聲明: 本文僅供參考，不構成任何投資建議。**