新闻正文
根据摩根士丹利(下称大摩)最新半导体研报,DRAM与HBM短缺并非短期扰动,而是AI算力扩张速度快于内存供给的结构性矛盾。先进大模型规模约每6个月倍增,主要模型上下文窗口年增5至6倍,推理并发与KV缓存需求同步爆发,但DRAM新厂建置需时数年,供给弹性低,短缺可延续数年。
大摩指出,为避免新晶圆厂未就绪就卡住出货,产业改以架构创新绕过瓶颈。一是硬件降规:以大摩引述的辉达Vera Rubin机架为例,单机架LPDDR5由54TB降至28TB、单GPU HBM由288GB降至192GB,优先保整机出货;HBM削减后,部分KV数据下沉NAND,跨GPU调度增加,反带动互联带宽需求。
根据大摩分析,降配是把瓶颈在内存层级间转移,而非需求转弱。摩根大通近期亦指出,Rubin、SOCAMM等规格下修多属供给约束下的配置优化。
二是推理解耦。预填充(Prefill)吃算力、解码(Decode)吃内存带宽,传统同颗加速器兼顾利用率偏低;行业改将两阶段拆开,Prefill用通用GPU,Decode用大容量片上SRAM专用芯片。大摩点名Cerebras晶圆级引擎、辉达通过Groq LPU布局的解码加速方案,认为异构推理会成AI基建重要方向。
三是CXL内存池化。CXL以高速互联实现内存扩展、共享与池化,高频数据留HBM、次高频进CXL池、冷数据落NAND,用成本梯度配访问频率。
大摩预估,AI需求可推CXL及相关内存附加芯片市场规模在2030年有望达约60亿美元;Astera Labs的Leo控制器已进微软Azure预览,迈威尔科技则以Structera锁定CPU侧扩容与KV暂存,但CXL定位为HBM补充而非替代。
投资主在线,大摩重申加码美光、闪迪,理由为降配源于供给稀缺、长期AI内存需求向上;同时看CXL与scale-up互联的Astera Labs、Marvell,以及异构推理受惠的Cerebras、通过Groq完善解码布局的辉达。
大摩也点名风险在于AI资本开支走缓、CXL落地慢于预期,或是DRAM产能扩张超预期,造成短缺溢价提早收敛。