外媒最新報導指出，AI半導體領域傳出架構劇變信號，以高速SRAM設計聞名、近期遭輝達實質性收購的晶片公司Groq正評估在下一代晶片中引入3D堆疊DRAM封裝技術，試圖擺脫傳統SRAM架構的容量瓶頸。

目前，AI晶片多採2D封裝，Groq計畫導入3D封裝，將多個半導體裸片垂直堆疊，其方案名為3DS，核心是利用TSV(矽通孔)技術在DRAM晶片內打穿數千微孔垂直互連，猶如為記憶體建起摩天大樓，在單位面積內提供超高顯存密度。

與輝達高階顯卡常用的HBM不同，兩者雖均採TSV堆疊，但HBM追求極致數據交換速率，3DS則在保持現有DRAM標準介面協定的前提下，將重心放在儲存容量擴張。對於必須載入海量參數的AI推論任務，此舉是更務實的降本增效方案。

長期以來，Groq的LPU架構因極高推論速度備受矚目，但依賴的SRAM容量極小，單晶片面對千億級參數模型時捉襟見肘。

DRAM雖然原生讀寫速度略遜於SRAM，但大容量特性在複雜模型部署中更具優勢。透過3D堆疊，Groq試圖在維持速度優勢同時解決「存不下」痛點，為超大型AI模型推論鋪路。