新闻笔记 · IDAEO AI News

#新闻媒体

AI内存荒将持续数年!摩根士丹利:三大路线可破局 青睐辉达、美光等6档个股

发布者:

TL;DR · 这代表什么

根据摩根士丹利(下称大摩)最新半导体研报,DRAM与HBM短缺并非短期扰动,而是AI算力扩张速度快于内存供给的结构性矛盾。先进大模型规模约每6个月倍增,主要模型上下文窗口年增5至6倍,推理并发与KV缓存需求同步爆发,但DRAM新厂建置需时数年,供给弹性低,短缺可延续数年。

(摘自原文导言,非改写)

新闻正文

完整中文翻译制作中,以下为原文。

根据摩根士丹利(下称大摩)最新半导体研报,DRAM与HBM短缺并非短期扰动,而是AI算力扩张速度快于内存供给的结构性矛盾。先进大模型规模约每6个月倍增,主要模型上下文窗口年增5至6倍,推理并发与KV缓存需求同步爆发,但DRAM新厂建置需时数年,供给弹性低,短缺可延续数年。

大摩指出,为避免新晶圆厂未就绪就卡住出货,产业改以架构创新绕过瓶颈。一是硬件降规:以大摩引述的辉达Vera Rubin机架为例,单机架LPDDR5由54TB降至28TB、单GPU HBM由288GB降至192GB,优先保整机出货;HBM削减后,部分KV数据下沉NAND,跨GPU调度增加,反带动互联带宽需求。

根据大摩分析,降配是把瓶颈在内存层级间转移,而非需求转弱。摩根大通近期亦指出,Rubin、SOCAMM等规格下修多属供给约束下的配置优化。

二是推理解耦。预填充(Prefill)吃算力、解码(Decode)吃内存带宽,传统同颗加速器兼顾利用率偏低;行业改将两阶段拆开,Prefill用通用GPU,Decode用大容量片上SRAM专用芯片。大摩点名Cerebras晶圆级引擎、辉达通过Groq LPU布局的解码加速方案,认为异构推理会成AI基建重要方向。

三是CXL内存池化。CXL以高速互联实现内存扩展、共享与池化,高频数据留HBM、次高频进CXL池、冷数据落NAND,用成本梯度配访问频率。

大摩预估,AI需求可推CXL及相关内存附加芯片市场规模在2030年有望达约60亿美元;Astera Labs的Leo控制器已进微软Azure预览,迈威尔科技则以Structera锁定CPU侧扩容与KV暂存,但CXL定位为HBM补充而非替代。

投资主在线,大摩重申加码美光、闪迪,理由为降配源于供给稀缺、长期AI内存需求向上;同时看CXL与scale-up互联的Astera Labs、Marvell,以及异构推理受惠的Cerebras、通过Groq完善解码布局的辉达。

大摩也点名风险在于AI资本开支走缓、CXL落地慢于预期,或是DRAM产能扩张超预期,造成短缺溢价提早收敛。

引用级事实单元(F-Units)

根据摩根士丹利(下称大摩)最新半导体研报,DRAM与HBM短缺并非短期扰动,而是AI算力扩张速度快于内存供给的结构性矛盾。

F1 本站收录原文的原句(仅去排版记号与多余空白)· 第 1 段 · 鉅亨網 来源类别:未分类(尚未核实)

先进大模型规模约每6个月倍增,主要模型上下文窗口年增5至6倍,推理并发与KV缓存需求同步爆发,但DRAM新厂建置需时数年,供给弹性低,短缺可延续数年。

F2 本站收录原文的原句(仅去排版记号与多余空白)· 第 1 段 · 鉅亨網 来源类别:未分类(尚未核实)

一是硬件降规:以大摩引述的辉达Vera Rubin机架为例,单机架LPDDR5由54TB降至28TB、单GPU HBM由288GB降至192GB,优先保整机出货;HBM削减后,部分KV数据下沉NAND,跨GPU调度增加,反带动互联带宽需求。

F3 本站收录原文的原句(仅去排版记号与多余空白)· 第 2 段 · 鉅亨網 来源类别:未分类(尚未核实)

大摩预估,AI需求可推CXL及相关内存附加芯片市场规模在2030年有望达约60亿美元;Astera Labs的Leo控制器已进微软Azure预览,迈威尔科技则以Structera锁定CPU侧扩容与KV暂存,但CXL定位为HBM补充而非替代。

F4 本站收录原文的原句(仅去排版记号与多余空白)· 第 6 段 · 鉅亨網 来源类别:未分类(尚未核实)

常见问题(FAQ)

這則新聞的重點是什麼?

根据摩根士丹利(下称大摩)最新半导体研报,DRAM与HBM短缺并非短期扰动,而是AI算力扩张速度快于内存供给的结构性矛盾。先进大模型规模约每6个月倍增,主要模型上下文窗口年增5至6倍,推理并发与KV缓存需求同步爆发,但DRAM新厂建置需时数年,供给弹性低,短缺可延续数年。

原文提到哪些關鍵數字?

先进大模型规模约每6个月倍增,主要模型上下文窗口年增5至6倍,推理并发与KV缓存需求同步爆发,但DRAM新厂建置需时数年,供给弹性低,短缺可延续数年。 一是硬件降规:以大摩引述的辉达Vera Rubin机架为例,单机架LPDDR5由54TB降至28TB、单GPU HBM由288GB降至192GB,优先保整机出货;HBM削减后,部分KV数据下沉NAND,跨GPU调度增加,反带动互联带宽需求。

這則新聞的原始出處與發布時間?

原始出處:鉅亨網(https://news.cnyes.com/news/id/6622059)。原文發布時間:2026-10-06。