|
彭博社：DeepSeek推出开源工具 助力降低AI运行成本 中国人工智能公司DeepSeek宣布，将用于大规模运行其AI模型的软件开源，有望让企业以更低成本、更便捷的方式部署和运行其技术。 这款名为DeepInfer的软件，是DeepSeek用于提高模型运行速度、改善计算资源使用效率的工具。 总部位于杭州的DeepSeek周二在社交平台X上表示：“我们正在开放生产环境中使用的技术体系，帮助开发者社区降低算力成本、减少能源消耗，让人工智能变得更加经济实惠。” DeepSeek表示，DeepInfer目前支持该公司的V4.1-Flash模型，未来还将陆续支持其他模型。 此次发布也让外界得以了解，DeepSeek究竟如何降低先进AI模型实际运行时的成本。 这一过程在业内被称为“推理”（inference），而相关生产环境技术通常被AI公司严格保密。 对于使用DeepSeek模型提供云计算或托管服务的企业来说，这次开源也意味着，它们可以自行部署DeepSeek所采用的成本优化技术。 即使使用完全相同的AI模型，不同的运行软件也可能导致成本出现巨大差异。 效率更高的软件能够降低处理每次用户请求所需的计算成本，同时有望减少能源消耗。 DeepInfer整合了多种技术，包括“分布式推理”，即将AI计算任务分配到不同的硬件设备上执行。 这些技术能够让模型在更短时间内生成更多输出，并充分发挥芯片的运算能力。 虽然许多底层技术早已得到广泛应用，但DeepSeek针对自身模型进行了专门优化，使这些技术能够更高效地协同工作。 降低AI推理成本，有助于提高人工智能托管服务商的利润率，也可能让它们向客户提供更低的服务价格。 对于企业用户而言，DeepInfer还可能降低在自有基础设施上运行DeepSeek模型的成本。 不过，目前尚无独立基准测试能够证实DeepInfer究竟带来了多大的效率提升。 虽然DeepInfer主要针对DeepSeek自身的模型设计，但其他开发者同样可以研究这套开源软件，并将其中的技术应用或改造到自己的AI推理系统中。  来源： https://www.bloomberg.com/news/a ... -ai-operating-costs By Saritha Rai October 20, 2026 at 11:45 PM GMT+11 |
