中国AI业者DeepSeek周二(20日)宣布，开源用于大规模运行旗下模型的软件DeepInfer，让企业、云端与模型代管业者有机会采用其降低运算成本的方法。这套工具旨在加快模型运行速度、提高运算资源使用效率，但目前尚无独立性能测试，能验证其实际改善幅度。

总部位于杭州的DeepSeek在社群平台X表示，公开这套实际用于营运的软件系统，是希望协助开发社群降低运算成本、减少能源消耗，让AI更容易负担。DeepInfer目前支持DeepSeek的V4.1-Flash模型，未来将陆续支持后续推出的系统。

这次开源的重点，在于AI模型训练完成后，实际处理用户要求、产生回答的「推论」阶段。相同模型即使运行相同任务，采用不同软件运行，成本也可能相差甚远；更有效率的系统能降低每次请求所需的运算资源，并有望减少耗电。

DeepInfer集成多种技术，包括将运算工作分散至不同硬件的「分布式推论」，让模型在较短时间内产生更多内容，并提高芯片使用效率。这些底层技术不少已被广泛采用，但DeepSeek针对自家模型进行调整，使各项技术能更有效率地协同运作。

AI公司通常不会完整公开实际营运中的优化方法。DeepInfer的发布，让外界得以进一步了解DeepSeek如何控制先进AI模型的运行成本，也让提供其模型服务的云端与代管业者，有机会自行部署这些技术。

若推论成本下降，模型代管业者的利润率可能改善，也可能将部分节省反映在客户价格上。对希望在自有设备上运行DeepSeek模型的企业而言，DeepInfer则提供另一条降低成本的途径。不过，实际效益仍有待测试，不能直接视为服务价格必然下降。

虽然DeepInfer主要针对DeepSeek自家模型设计，其他开发者仍可研究其开源代码，并将适用技术调整后导入自己的推论系统。这也让此次发布的影响，有机会延伸至DeepSeek生态系以外。