新聞正文
微軟(MSFT-US)周一(12日)發表第三代自研AI晶片Maia 300,計劃明年部署可能超過100萬顆,支援內部AI服務,並藉由提升整體系統效率降低運算成本。隨著雲端業者與AI開發商加速投入自研晶片,微軟這項大規模部署計畫,也凸顯業界正尋求降低對輝達(NVDA-US)的依賴。
據《路透》報導,Maia 300主要用於處理AI運算,包括程式設計,以及代替使用者執行複雜的商業任務。其前一代產品已用於運行微軟自家AI模型,以及透過Azure雲端服務提供的OpenAI模型。
從雲端運算競爭對手到OpenAI等AI企業,近期紛紛推出客製化晶片,希望削弱輝達在AI運算市場的主導地位。微軟此次也採取不同於輝達的技術路線,試圖在效能、成本與耗電量之間取得更好的平衡。
輝達的AI加速器採用大型運算晶片,周圍搭配高頻寬記憶體;Maia 300的核心運算處理器則採用「小晶片」(chiplet)設計,將多顆通常各有專門功能的晶片整合在一起。
其中,負責關鍵運算功能的小晶片採用台積電(2330-TW)(TSM-US)的2奈米製程,其他負責將資料移出處理器、傳送至系統其他部分等功能的小晶片,則使用成本較低的3奈米製程。
Maia 300將配置於每座搭載96顆晶片的伺服器機櫃,功耗約167千瓦。相較之下,輝達最新GB300 AI伺服器機櫃搭載72顆繪圖處理器(GPU),功耗約142千瓦。
微軟表示,Maia 300每消耗1百萬瓦電力,所能完成的有效運算量,比「領先的GPU系統」高出約40%。不過,公司並未揭露比較所採用的具體系統,因此無法將這項數據直接視為與GB300的比較結果。
微軟Azure硬體系統與基礎設施總裁Rani Borkar接受《路透》訪問時表示,透過整體系統最佳化,公司希望讓每一瓦電力、每一美元投入,以及每一位元組記憶體,都能支援更多AI運算。
微軟計劃自明年起,推動Maia 300達數十億瓦規模的部署。公司先前已表示,今年資本支出預計超過1,750億美元,顯示在持續擴建AI基礎設施的同時,如何提高每筆投入的運算效益,也成為重要課題。