News Note · IDAEO AI News

#News media

AI記憶體荒將持續數年!摩根士丹利:三大路線可破局 青睞輝達、美光等6檔個股

Original-language title

Publisher:

TL;DR · What this means

根據摩根士丹利(下稱大摩)最新半導體研報,DRAM與HBM短缺並非短期擾動,而是AI算力擴張速度快於記憶體供給的結構性矛盾。先進大模型規模約每6個月倍增,主要模型上下文窗口年增5至6倍,推理並發與KV快取需求同步爆發,但DRAM新廠建置需時數年,供給彈性低,短缺可延續數年。

(Excerpt from the original lead, not a rewrite)

Story Text

Full English translation is in progress; the text below is the original.

根據摩根士丹利(下稱大摩)最新半導體研報,DRAM與HBM短缺並非短期擾動,而是AI算力擴張速度快於記憶體供給的結構性矛盾。先進大模型規模約每6個月倍增,主要模型上下文窗口年增5至6倍,推理並發與KV快取需求同步爆發,但DRAM新廠建置需時數年,供給彈性低,短缺可延續數年。

大摩指出,為避免新晶圓廠未就緒就卡住出貨,產業改以架構創新繞過瓶頸。一是硬體降規:以大摩引述的輝達Vera Rubin機架為例,單機架LPDDR5由54TB降至28TB、單GPU HBM由288GB降至192GB,優先保整機出貨;HBM削減後,部分KV資料下沉NAND,跨GPU調度增加,反帶動互聯頻寬需求。

根據大摩分析,降配是把瓶頸在記憶體層級間轉移,而非需求轉弱。摩根大通近期亦指出,Rubin、SOCAMM等規格下修多屬供給約束下的配置優化。

二是推理解耦。預填充(Prefill)吃算力、解碼(Decode)吃記憶體頻寬,傳統同顆加速器兼顧利用率偏低;行業改將兩階段拆開,Prefill用通用GPU,Decode用大容量片上SRAM專用晶片。大摩點名Cerebras晶圓級引擎、輝達透過Groq LPU佈局的解碼加速方案,認為異構推理會成AI基建重要方向。

三是CXL記憶體池化。CXL以高速互聯實現記憶體擴展、共享與池化,高頻資料留HBM、次高頻進CXL池、冷資料落NAND,用成本梯度配訪問頻率。

大摩預估,AI需求可推CXL及相關記憶體附加晶片市場規模在2030年有望達約60億美元;Astera Labs的Leo控制器已進微軟Azure預覽,邁威爾科技則以Structera鎖定CPU側擴容與KV暫存,但CXL定位為HBM補充而非替代。

投資主線上,大摩重申加碼美光、閃迪,理由為降配源於供給稀缺、長期AI記憶體需求向上;同時看CXL與scale-up互聯的Astera Labs、Marvell,以及異構推理受惠的Cerebras、透過Groq完善解碼佈局的輝達。

大摩也點名風險在於AI資本開支走緩、CXL落地慢於預期,或是DRAM產能擴張超預期,造成短缺溢價提早收斂。

Citation-ready facts (F-Units)

根據摩根士丹利(下稱大摩)最新半導體研報,DRAM與HBM短缺並非短期擾動,而是AI算力擴張速度快於記憶體供給的結構性矛盾。

F1 Original sentence as captured by this site (only formatting marks and extra spaces removed), paragraph 1 · 鉅亨網 Source type: unclassified (not verified)

先進大模型規模約每6個月倍增,主要模型上下文窗口年增5至6倍,推理並發與KV快取需求同步爆發,但DRAM新廠建置需時數年,供給彈性低,短缺可延續數年。

F2 Original sentence as captured by this site (only formatting marks and extra spaces removed), paragraph 1 · 鉅亨網 Source type: unclassified (not verified)

一是硬體降規:以大摩引述的輝達Vera Rubin機架為例,單機架LPDDR5由54TB降至28TB、單GPU HBM由288GB降至192GB,優先保整機出貨;HBM削減後,部分KV資料下沉NAND,跨GPU調度增加,反帶動互聯頻寬需求。

F3 Original sentence as captured by this site (only formatting marks and extra spaces removed), paragraph 2 · 鉅亨網 Source type: unclassified (not verified)

大摩預估,AI需求可推CXL及相關記憶體附加晶片市場規模在2030年有望達約60億美元;Astera Labs的Leo控制器已進微軟Azure預覽,邁威爾科技則以Structera鎖定CPU側擴容與KV暫存,但CXL定位為HBM補充而非替代。

F4 Original sentence as captured by this site (only formatting marks and extra spaces removed), paragraph 6 · 鉅亨網 Source type: unclassified (not verified)

Frequently Asked Questions (FAQ)

這則新聞的重點是什麼?

根據摩根士丹利(下稱大摩)最新半導體研報,DRAM與HBM短缺並非短期擾動,而是AI算力擴張速度快於記憶體供給的結構性矛盾。先進大模型規模約每6個月倍增,主要模型上下文窗口年增5至6倍,推理並發與KV快取需求同步爆發,但DRAM新廠建置需時數年,供給彈性低,短缺可延續數年。

原文提到哪些關鍵數字?

先進大模型規模約每6個月倍增,主要模型上下文窗口年增5至6倍,推理並發與KV快取需求同步爆發,但DRAM新廠建置需時數年,供給彈性低,短缺可延續數年。 一是硬體降規:以大摩引述的輝達Vera Rubin機架為例,單機架LPDDR5由54TB降至28TB、單GPU HBM由288GB降至192GB,優先保整機出貨;HBM削減後,部分KV資料下沉NAND,跨GPU調度增加,反帶動互聯頻寬需求。

這則新聞的原始出處與發布時間?

原始出處:鉅亨網(https://news.cnyes.com/news/id/6622059)。原文發布時間:2026-10-06。