新聞筆記 · IDAEO AI News

#新聞媒體

AI記憶體荒將持續數年!摩根士丹利:三大路線可破局 青睞輝達、美光等6檔個股

發布者:

TL;DR · 這代表什麼

根據摩根士丹利(下稱大摩)最新半導體研報,DRAM與HBM短缺並非短期擾動,而是AI算力擴張速度快於記憶體供給的結構性矛盾。先進大模型規模約每6個月倍增,主要模型上下文窗口年增5至6倍,推理並發與KV快取需求同步爆發,但DRAM新廠建置需時數年,供給彈性低,短缺可延續數年。

(摘自原文導言,非改寫)

新聞正文

根據摩根士丹利(下稱大摩)最新半導體研報,DRAM與HBM短缺並非短期擾動,而是AI算力擴張速度快於記憶體供給的結構性矛盾。先進大模型規模約每6個月倍增,主要模型上下文窗口年增5至6倍,推理並發與KV快取需求同步爆發,但DRAM新廠建置需時數年,供給彈性低,短缺可延續數年。

大摩指出,為避免新晶圓廠未就緒就卡住出貨,產業改以架構創新繞過瓶頸。一是硬體降規:以大摩引述的輝達Vera Rubin機架為例,單機架LPDDR5由54TB降至28TB、單GPU HBM由288GB降至192GB,優先保整機出貨;HBM削減後,部分KV資料下沉NAND,跨GPU調度增加,反帶動互聯頻寬需求。

根據大摩分析,降配是把瓶頸在記憶體層級間轉移,而非需求轉弱。摩根大通近期亦指出,Rubin、SOCAMM等規格下修多屬供給約束下的配置優化。

二是推理解耦。預填充(Prefill)吃算力、解碼(Decode)吃記憶體頻寬,傳統同顆加速器兼顧利用率偏低;行業改將兩階段拆開,Prefill用通用GPU,Decode用大容量片上SRAM專用晶片。大摩點名Cerebras晶圓級引擎、輝達透過Groq LPU佈局的解碼加速方案,認為異構推理會成AI基建重要方向。

三是CXL記憶體池化。CXL以高速互聯實現記憶體擴展、共享與池化,高頻資料留HBM、次高頻進CXL池、冷資料落NAND,用成本梯度配訪問頻率。

大摩預估,AI需求可推CXL及相關記憶體附加晶片市場規模在2030年有望達約60億美元;Astera Labs的Leo控制器已進微軟Azure預覽,邁威爾科技則以Structera鎖定CPU側擴容與KV暫存,但CXL定位為HBM補充而非替代。

投資主線上,大摩重申加碼美光、閃迪,理由為降配源於供給稀缺、長期AI記憶體需求向上;同時看CXL與scale-up互聯的Astera Labs、Marvell,以及異構推理受惠的Cerebras、透過Groq完善解碼佈局的輝達。

大摩也點名風險在於AI資本開支走緩、CXL落地慢於預期,或是DRAM產能擴張超預期,造成短缺溢價提早收斂。

引用級事實單元(F-Units)

根據摩根士丹利(下稱大摩)最新半導體研報,DRAM與HBM短缺並非短期擾動,而是AI算力擴張速度快於記憶體供給的結構性矛盾。

F1 本站收錄原文的原句(僅去排版記號與多餘空白)· 第 1 段 · 鉅亨網 來源類別:未分類(尚未核實)

先進大模型規模約每6個月倍增,主要模型上下文窗口年增5至6倍,推理並發與KV快取需求同步爆發,但DRAM新廠建置需時數年,供給彈性低,短缺可延續數年。

F2 本站收錄原文的原句(僅去排版記號與多餘空白)· 第 1 段 · 鉅亨網 來源類別:未分類(尚未核實)

一是硬體降規:以大摩引述的輝達Vera Rubin機架為例,單機架LPDDR5由54TB降至28TB、單GPU HBM由288GB降至192GB,優先保整機出貨;HBM削減後,部分KV資料下沉NAND,跨GPU調度增加,反帶動互聯頻寬需求。

F3 本站收錄原文的原句(僅去排版記號與多餘空白)· 第 2 段 · 鉅亨網 來源類別:未分類(尚未核實)

大摩預估,AI需求可推CXL及相關記憶體附加晶片市場規模在2030年有望達約60億美元;Astera Labs的Leo控制器已進微軟Azure預覽,邁威爾科技則以Structera鎖定CPU側擴容與KV暫存,但CXL定位為HBM補充而非替代。

F4 本站收錄原文的原句(僅去排版記號與多餘空白)· 第 6 段 · 鉅亨網 來源類別:未分類(尚未核實)

常見問題(FAQ)

這則新聞的重點是什麼?

根據摩根士丹利(下稱大摩)最新半導體研報,DRAM與HBM短缺並非短期擾動,而是AI算力擴張速度快於記憶體供給的結構性矛盾。先進大模型規模約每6個月倍增,主要模型上下文窗口年增5至6倍,推理並發與KV快取需求同步爆發,但DRAM新廠建置需時數年,供給彈性低,短缺可延續數年。

原文提到哪些關鍵數字?

先進大模型規模約每6個月倍增,主要模型上下文窗口年增5至6倍,推理並發與KV快取需求同步爆發,但DRAM新廠建置需時數年,供給彈性低,短缺可延續數年。 一是硬體降規:以大摩引述的輝達Vera Rubin機架為例,單機架LPDDR5由54TB降至28TB、單GPU HBM由288GB降至192GB,優先保整機出貨;HBM削減後,部分KV資料下沉NAND,跨GPU調度增加,反帶動互聯頻寬需求。

這則新聞的原始出處與發布時間?

原始出處:鉅亨網(https://news.cnyes.com/news/id/6622059)。原文發布時間:2026-10-06。