中國AI業者DeepSeek周二(20日)宣布，開源用於大規模運行旗下模型的軟體DeepInfer，讓企業、雲端與模型代管業者有機會採用其降低運算成本的方法。這套工具旨在加快模型運行速度、提高運算資源使用效率，但目前尚無獨立效能測試，能驗證其實際改善幅度。

總部位於杭州的DeepSeek在社群平台X表示，公開這套實際用於營運的軟體系統，是希望協助開發社群降低運算成本、減少能源消耗，讓AI更容易負擔。DeepInfer目前支援DeepSeek的V4.1-Flash模型，未來將陸續支援後續推出的系統。

這次開源的重點，在於AI模型訓練完成後，實際處理使用者要求、產生回答的「推論」階段。相同模型即使執行相同任務，採用不同軟體運行，成本也可能相差甚遠；更有效率的系統能降低每次請求所需的運算資源，並有望減少耗電。

DeepInfer整合多種技術，包括將運算工作分散至不同硬體的「分散式推論」，讓模型在較短時間內產生更多內容，並提高晶片使用效率。這些底層技術不少已被廣泛採用，但DeepSeek針對自家模型進行調整，使各項技術能更有效率地協同運作。

AI公司通常不會完整公開實際營運中的最佳化方法。DeepInfer的釋出，讓外界得以進一步了解DeepSeek如何控制先進AI模型的運行成本，也讓提供其模型服務的雲端與代管業者，有機會自行部署這些技術。

若推論成本下降，模型代管業者的利潤率可能改善，也可能將部分節省反映在客戶價格上。對希望在自有設備上運行DeepSeek模型的企業而言，DeepInfer則提供另一條降低成本的途徑。不過，實際效益仍有待測試，不能直接視為服務價格必然下降。

雖然DeepInfer主要針對DeepSeek自家模型設計，其他開發者仍可研究其開源程式碼，並將適用技術調整後導入自己的推論系統。這也讓此次發布的影響，有機會延伸至DeepSeek生態系以外。