新闻正文
人工智能(AI)算力竞赛正逐渐从芯片性能比拚,扩大至互连、内存与网络等整体基础设施的竞争。迈威尔科技(MRVL-US)高层近日在Six Five Summit 2026指出,随着推论模型带动内存需求快速攀升,加上数据中心规模持续扩大,传统铜基互连逐渐接近性能极限,光学互连与内存扩充技术将成为下一阶段AI算力扩张的重要因素。
迈威尔客制化云端解决方案业务运行副总裁Will Chu表示,市场长期将注意力集中在XPU本身,但XPU周边的「附着层」同样关键,涵盖网络、内存、保存及安全等领域。
他指出,每颗XPU背后都存在3至4个甚至更多的客制化机会,反映AI基础设施正全面走向客制化。
迈威尔数据中心网络业务集团运行副总裁Dave Lazovsky则表示,推论时运算(inference time compute)兴起,使KV缓存需求在过去9个月增加约10倍,单一机架已难以提供足够内存容量,规模化部署因此必须扩展至更大的互连范围。
AI基础设施需求持续扩张,也将带动相关供应链迎来长期需求,包括内存、光学互连及客制化芯片设计等业者。
分析机构估计,2025年至2030年间,全球数据中心基础设施累计资本支出规模可能达4兆至5兆美元。
铜连接接近极限 光学互连成扩充关键
Lazovsky将AI基础设施由铜转向光学互连形容为「强制函数」,而非可选的升级方案。
他指出,早期大型基础模型已创建庞大的总内存需求,随着推论模型发展及KV缓存快速增加,单一机架中的HBM容量已不足以支撑尖端模型运作。
他表示,AI系统必须将互连规模由目前约144个XPU扩大至下一阶段约576个XPU的Pod,并持续向更大规模扩展,而这也代表互连技术必须从铜基方案转向光学方案。
迈威尔目前同步推进板载光学(NPO)及共封装光学(CPO)两条技术路线,并已在以太网路及UAL协议交换器上导入CPO方案。
Chu指出,迈威尔可协助客户从传统铜连接方案逐步转向NPO及CPO,客制化范围则可从运算单元、I/O接口一路延伸至交换器连接端口。
Lazovsky也强调迈威尔模拟SerDes技术的差异化。他表示,相较于传统2.4T SerDes光学链路,采用模拟SerDes的Scale Up网络可将功耗降低约4倍,全面部署后预计可使数据中心整体能耗降低逾25%。
AI 内存需求暴增 CXL 、 3D 堆栈及光子技术成解方
Chu将内存瓶颈视为AI基础设施目前面临的内核工程挑战,迈威尔的布局则涵盖芯片内外不同层级。
在芯片内部,迈威尔正投入专有高密度SRAM IP,通过与运算单元紧密集成提升性能,并支持更大型模型在芯片上的运作。Chu指出,传统通用内存编译方案已难以满足客户需求。
芯片外部则涵盖多种技术,包括集成客制化HBM以提升带宽与容量、通过3D堆栈将内存直接置于逻辑芯片上,以及利用CXL或专有协议进行内存扩充,以容量换取带宽。
此外,迈威尔也推出光子织物内存(Photonic Fabric Memory)设备,可在独立机架空间内提供32TB外置内存池。
Lazovsky指出,该光子织物内存系统结合DDR的容量与成本优势,以及HBM的高带宽与多伪信道平行特性,目标是让内存容量与带宽能够独立扩充,降低对运算资源的绑定。
Chu另表示,内存价格持续高涨,也促使超大规模云端业者重新查看整体基础设施架构。迈威尔的CXL产品已获得需求,部分客户希望将旧有内存导入新服务器,并通过内存压缩让等效容量增加1倍。
此外,部分业者也开始关注Flash层级的内存分层方案,作为成本较低的容量补充选项。
规模扩展网络 走向客制化 XPU 与网络深度集成
Lazovsky指出,目前约4家公司占据数据中心基础设施整体可服务市场(TAM)75%以上。市场高度集中,也让迈威尔得以与主要客户的开发团队深度合作,提前数年共同规画下一代交换器架构。
他表示,目前规模扩展网络(Scale Up Network)主要存在3种路线:部分业者采用以太网路方案;另一条路线采用UAL协议,属于类似NVLink、基于内存语义加载与保存的高性能网络;另有业者则采用完全自行开发的专有拓扑网络。
Chu指出,XPU与规模扩展网络之间高度紧密的集成,将推动协议层及优化策略进一步客制化,最终形成客制化芯片。
他表示,并非所有业者都具备端到端开发能力,而迈威尔除了能提供相关能力,也能作为客户开发团队的延伸,直接参与内核基础设施设计。
Lazovsky则表示,迈威尔与主要超大规模云端业者及GPU制造商创建的长期合作关系,是公司的重要资产,这类信任需要多年累积。