人工智慧（AI）加速發展，晶片設計的門檻與時間成本正因AI工具而降低，但硬體製造、記憶體、能源供應及資料傳輸等環節，卻成為限制算力擴張的新瓶頸。前英特爾( INTC-US ) 執行長季辛格（Pat Gelsinger）認為，AI正推動硬體產業迎來一波前所未有的創新浪潮，從電力架構、記憶體材料到光互連技術，都存在重大突破的機會。

矽谷創投機構 a16z 於9日播出一場深度訪談，由創投機構 Playground Global 普通合夥人季辛格，與 a16z 的 Raghu Raghuram、Guido Appenzeller 共同探討AI基礎設施的發展。

季辛格曾參與英特爾386、486處理器的設計，並見證電子設計自動化（EDA）工具的發展。他指出，當前硬體產業的創新機會，涵蓋記憶體、光互連、電力系統與網路架構，是他職涯中少見的密集發展階段。

AI 資料中心面臨電力 瓶 頸，季辛格示警違約風險

隨著AI資料中心建置加速，電力供應正成為算力擴張難以迴避的瓶頸。

季辛格指出，AI時代的能源供應能力已直接關係經濟產能，但美國過去15年在增加再生能源的同時逐步淘汰燃煤發電，整體能源容量幾乎沒有成長，即使近期增速加快，年化成長率仍僅約4%，難以滿足動輒需要百萬顆GPU的AI資料中心需求。

季辛格警告，若業者投入大量資金採購GPU，卻無法取得足夠電力，未來可能有愈來愈多資料中心專案面臨違約風險。

他認為，甲骨文( ORCL-US ) 先前談及核能資料中心的相關言論，正是產業供電瓶頸逐漸浮現的初步訊號。

為因應日益嚴峻的電力需求，季辛格認為，資料中心的供電架構亟需重新設計。他特別提到，800伏特直流電（DC）重新受到重視，象徵電力系統正迎來重大轉變。

此外，從發電、輸電，到運用垂直氮化鎵（GaN）技術進行降壓轉換，以及液冷等散熱技術的升級，整個資料中心電力與散熱系統都可能迎來25年來少見的創新浪潮。

HBM 散熱與功耗受限，新型記憶體創新蓄勢待發

針對目前AI晶片高度仰賴的高頻寬記憶體（HBM），季辛格（Pat Gelsinger）提出不同看法。他直言，HBM是一種極糟糕的記憶體，只是現階段市場能取得的最佳選擇。

季辛格指出，HBM的位元密度不理想，頻寬受限於晶片邊緣，且面臨功耗偏高、散熱困難等問題。由於DRAM對高溫相當敏感，隨著AI運算對記憶體的需求持續攀升，現有技術的限制也日益受到關注。

他認為，這些挑戰加上AI對記憶體運算的高度需求，正為新一波記憶體技術創新創造條件；過去4年，記憶體產業市值已增加2.5兆美元，也反映市場對相關技術的重視。

季辛格表示，回顧過去30年，記憶體領域真正重大的技術創新相當有限，主要仍是DRAM、靜態隨機存取記憶體（SRAM）與快閃記憶體（Flash）。

不過，他認為，產業可能即將迎來30年來首次重大新型記憶體創新，並看好鐵電材料（ferroelectrics）等新材料的發展潛力，認為其有望應用於不依賴電容、具備高密度與堆疊能力的記憶體。他也透露，自己已投資相關的新創公司。

至於3D封裝與記憶體堆疊，季辛格認為，堆疊層數並非愈多愈好。考慮到製程複雜度提高可能導致良率大幅下降，他不認為業界應一味追求16層或32層堆疊，反而看好2至4層堆疊。

AI 縮短晶片設計時間，製造與封裝仍需數月

AI工具正在改變晶片設計流程。季辛格認為，AI輔助設計的影響，可比擬早期EDA工具問世時對晶片開發帶來的變革。透過AI工具，優秀團隊可能只需3個月，就能完成一款AI加速器的邏輯設計。

但設計速度提升，並不代表硬體能同步投入使用。季辛格指出，晶片開發的瓶頸正逐漸轉移至製造、先進封裝與系統整合。

以一款AI晶片為例，設計可能需要3個月，晶圓製造至少再花3個月，複雜的3D先進封裝又需要約3個月，之後還得整合至機架級系統。換言之，即使設計階段大幅提速，從設計完成到系統可用，仍可能9個月的等待時間。

他強調，當前AI運算系統的核心已不再只是單顆晶片，而是整合運算、記憶體、網路與電力的整個機架（Rack）。當硬體交付速度趕不上AI模型與工作負載的變化，產品在正式部署時，就可能已不再符合原先的需求。

AI 晶片市場終將整合，光互連有望在 2028 至 2029 年加速普及

針對市場上大量AI推論加速器與不同晶片架構競爭的局面，季辛格預期，產業最終將逐步整合，由少數主導平台掌握市場。

他認為，未來AI工作負載可能納入更多傳統高效能運算（HPC）需求，例如分子與化學分析所需的64位元高精度運算。若晶片架構過度專門化，未必能適應未來2至4年的模型演進。

此外，打造大規模AI算力基礎設施需要數百億美元的資本支出，龐大的投資門檻也不利於數十種甚至上百種晶片架構長期並存。

OpenAI、輝達( NVDA-US ) 與Anthropic等主要業者，也將在軟硬體協同發展過程中，影響市場最終由哪些平台勝出。

在資料傳輸方面，季辛格則認為，銅互連的限制將推動光互連逐步普及。他指出，資料中心內銅纜的電氣傳輸特性，使其在約5公尺距離的成本，可能高於可傳輸約100公尺的光纖，反映光學技術在高速傳輸上的優勢。

他預期，2028至2029年可能成為產業轉折點，屆時近封裝光學（NPO）與共封裝光學（CPO）技術有望加速導入。

季辛格也肯定輝達NVL72系統的工程設計，但認為其製造複雜度極高；若光學供應鏈能更早成熟，相關系統的發展可能更加超前。

除了光互連，季辛格也支持光路交換（OCS）技術的發展。他指出，傳統網路架構主要為資料可能流向不同目的地而設計，但AI工作負載的資料流量往往規模龐大且相對可預測，因此更適合探索電路交換式的網路架構。

AI 代理興起，下一代基礎設施需要重新定義虛擬化

訪談最後，季辛格將焦點轉向AI代理（AI Agent）時代的基礎設施。

他以過去在VMware( VMW-US ) 的經驗指出，每一波技術創新都會催生新的抽象層，而虛擬機仍是運算架構中值得保留的重要概念，但服務對象正從硬體與人類使用者，逐漸轉向AI代理。

他認為，下一代類似VMware的基礎設施，需要重新建立虛擬化與管理機制，協助AI代理有效運作、配置安全環境並管理執行效能。

同時，系統仍須保留人類對代理行為的管理能力，包括制定政策、設定行為準則，以及透過儀表板掌握運作狀態。