新闻笔记 · IDAEO AI News

迈威尔:光学互连、内存成AI下一阶段算力扩张关键
#AI基础设施

迈威尔:光学互连、内存成AI下一阶段算力扩张关键

发布者:

TL;DR · 这代表什么

代表AI基础设施正从芯片转向光学与内存结构性升级。

相关实体 News Cnyes

新闻正文

人工智能(AI)算力竞赛正逐渐从芯片性能比拚,扩大至互连、内存与网络等整体基础设施的竞争。迈威尔科技(MRVL-US)高层近日在Six Five Summit 2026指出,随着推论模型带动内存需求快速攀升,加上数据中心规模持续扩大,传统铜基互连逐渐接近性能极限,光学互连与内存扩充技术将成为下一阶段AI算力扩张的重要因素。

迈威尔客制化云端解决方案业务运行副总裁Will Chu表示,市场长期将注意力集中在XPU本身,但XPU周边的「附着层」同样关键,涵盖网络、内存、保存及安全等领域。

他指出,每颗XPU背后都存在3至4个甚至更多的客制化机会,反映AI基础设施正全面走向客制化。

迈威尔数据中心网络业务集团运行副总裁Dave Lazovsky则表示,推论时运算(inference time compute)兴起,使KV缓存需求在过去9个月增加约10倍,单一机架已难以提供足够内存容量,规模化部署因此必须扩展至更大的互连范围。

AI基础设施需求持续扩张,也将带动相关供应链迎来长期需求,包括内存、光学互连及客制化芯片设计等业者。

分析机构估计,2025年至2030年间,全球数据中心基础设施累计资本支出规模可能达4兆至5兆美元。

铜连接接近极限 光学互连成扩充关键

Lazovsky将AI基础设施由铜转向光学互连形容为「强制函数」,而非可选的升级方案。

他指出,早期大型基础模型已创建庞大的总内存需求,随着推论模型发展及KV缓存快速增加,单一机架中的HBM容量已不足以支撑尖端模型运作。

他表示,AI系统必须将互连规模由目前约144个XPU扩大至下一阶段约576个XPU的Pod,并持续向更大规模扩展,而这也代表互连技术必须从铜基方案转向光学方案。

迈威尔目前同步推进板载光学(NPO)及共封装光学(CPO)两条技术路线,并已在以太网路及UAL协议交换器上导入CPO方案。

Chu指出,迈威尔可协助客户从传统铜连接方案逐步转向NPO及CPO,客制化范围则可从运算单元、I/O接口一路延伸至交换器连接端口。

Lazovsky也强调迈威尔模拟SerDes技术的差异化。他表示,相较于传统2.4T SerDes光学链路,采用模拟SerDes的Scale Up网络可将功耗降低约4倍,全面部署后预计可使数据中心整体能耗降低逾25%。

AI 内存需求暴增 CXL 、 3D 堆栈及光子技术成解方

Chu将内存瓶颈视为AI基础设施目前面临的内核工程挑战,迈威尔的布局则涵盖芯片内外不同层级。

在芯片内部,迈威尔正投入专有高密度SRAM IP,通过与运算单元紧密集成提升性能,并支持更大型模型在芯片上的运作。Chu指出,传统通用内存编译方案已难以满足客户需求。

芯片外部则涵盖多种技术,包括集成客制化HBM以提升带宽与容量、通过3D堆栈将内存直接置于逻辑芯片上,以及利用CXL或专有协议进行内存扩充,以容量换取带宽。

此外,迈威尔也推出光子织物内存(Photonic Fabric Memory)设备,可在独立机架空间内提供32TB外置内存池。

Lazovsky指出,该光子织物内存系统结合DDR的容量与成本优势,以及HBM的高带宽与多伪信道平行特性,目标是让内存容量与带宽能够独立扩充,降低对运算资源的绑定。

Chu另表示,内存价格持续高涨,也促使超大规模云端业者重新查看整体基础设施架构。迈威尔的CXL产品已获得需求,部分客户希望将旧有内存导入新服务器,并通过内存压缩让等效容量增加1倍。

此外,部分业者也开始关注Flash层级的内存分层方案,作为成本较低的容量补充选项。

规模扩展网络 走向客制化 XPU 与网络深度集成

Lazovsky指出,目前约4家公司占据数据中心基础设施整体可服务市场(TAM)75%以上。市场高度集中,也让迈威尔得以与主要客户的开发团队深度合作,提前数年共同规画下一代交换器架构。

他表示,目前规模扩展网络(Scale Up Network)主要存在3种路线:部分业者采用以太网路方案;另一条路线采用UAL协议,属于类似NVLink、基于内存语义加载与保存的高性能网络;另有业者则采用完全自行开发的专有拓扑网络。

Chu指出,XPU与规模扩展网络之间高度紧密的集成,将推动协议层及优化策略进一步客制化,最终形成客制化芯片。

他表示,并非所有业者都具备端到端开发能力,而迈威尔除了能提供相关能力,也能作为客户开发团队的延伸,直接参与内核基础设施设计。

Lazovsky则表示,迈威尔与主要超大规模云端业者及GPU制造商创建的长期合作关系,是公司的重要资产,这类信任需要多年累积。

数字与意义

10倍

迈威尔高层指出,推论时运算兴起使KV缓存需求在过去9个月增加约10倍。

常见问题(FAQ)

為何光學互連對AI至關重要?

銅纜有頻寬與距離限制,大型AI叢集需靠光學實現高速長距傳輸。

CXL技術的主要優勢為何?

可低延遲共享外部記憶體,以較低成本擴展容量,提升效益。

邁威爾光子織物記憶體是什麼?

獨立機架內建32TB外接記憶體池,提供近似HBM的高頻寬存取能力。

CPO與NPO有何差異?

CPO將光學元件與晶片共封裝,NPO則置於電路板上,CPO密度更高。

類比SerDes的節能效果如何?

相比傳統2.4T光鏈路節能達4倍,整體資料中心能耗可降逾25%。

今日小测

为何传统铜连接在AI基础设施中逐渐达到极限?