外媒最新报导指出，AI半导体领域传出架构剧变信号，以高速SRAM设计闻名、近期遭辉达实质性收购的芯片公司Groq正评估在下一代芯片中引入3D堆栈DRAM封装技术，试图摆脱传统SRAM架构的容量瓶颈。

目前，AI芯片多采2D封装，Groq计划导入3D封装，将多个半导体裸片垂直堆栈，其方案名为3DS，内核是利用TSV(硅通孔)技术在DRAM芯片内打穿数千微孔垂直互连，犹如为内存建起摩天大楼，在单位面积内提供超高显存密度。

与辉达高端显卡常用的HBM不同，两者虽均采TSV堆栈，但HBM追求极致数据交换速率，3DS则在保持现有DRAM标准接口协定的前提下，将重心放在保存容量扩张。对于必须加载海量参数的AI推论任务，此举是更务实的降本增效方案。

长期以来，Groq的LPU架构因极高推论速度备受瞩目，但依赖的SRAM容量极小，单芯片面对千亿级参数模型时捉襟见肘。

DRAM虽然原生读写速度略逊于SRAM，但大容量特性在复杂模型部署中更具优势。通过3D堆栈，Groq试图在维持速度优势同时解决「存不下」痛点，为超大型AI模型推论铺路。