可视化大型科技公司在人工智能数据中心上的支出

首先在Voronoi应用程序上查看此可视化。

大型科技公司的人工智能数据中心成本

这最初发布在我们的Voronoi 应用程序上。在iOS或Android上免费下载该应用程序，并从各种可信来源发现令人难以置信的数据驱动图表。

大型科技公司正在积极投资数十亿美元建设人工智能数据中心，以满足高级人工智能工作负载所需的计算能力和基础设施不断增长的需求。

该图直观地显示了 2024 年 1 月至 8 月 Microsoft、Google、Meta 和 Amazon 的 AI 资本支出总额和数据中心运营成本。

人工智能资本支出是对长期人工智能资产和基础设施的一次性或不频繁的投资。

数据中心运营成本是日常运行和维护人工智能数据中心的持续费用

该数据来自摩根大通的 New Street Research，更新截至 2024 年 8 月。数字以十亿为单位。运营成本包括现金运营费用、软件、折旧和电力。

下面，我们显示了微软、谷歌、Meta 和亚马逊的人工智能资本支出总额和数据中心运营成本。

公司	GPU 和其他芯片	其他人工智能支出	资本支出总额	培训与研发	推理	总运营成本
微软	200亿美元	200亿美元	400亿美元	30亿美元	30亿美元	60亿美元
元	110亿美元	120亿美元	230亿美元	20亿美元	20亿美元	40亿美元
谷歌	140亿美元	150亿美元	290亿美元	30亿美元	10亿美元	40亿美元
亚马逊	80亿美元	80亿美元	160亿美元	20亿美元	10亿美元	30亿美元

目前，微软在人工智能数据中心总成本方面处于领先地位，截至 2024 年 8 月，其资本支出和运营成本总计为 460 亿美元。

微软目前拥有的数据中心数量最多，为 300 个，其次是亚马逊，约为 215 个。然而，规模和容量的变化意味着设施的数量并不总是反映总计算能力。

9月，微软和贝莱德通过全球人工智能基础设施投资合作伙伴关系（ GAIIP ）公布了一项1000亿美元的计划，以开发以人工智能为中心的数据中心和支持它们的能源基础设施。

值得注意的是，谷歌和亚马逊目前训练模型的费用是为最终用户运行模型的费用的两倍多（推断）。

主要人工智能模型的训练成本变得越来越昂贵，因为它需要大量的数据集、复杂的计算和大量的计算资源，通常涉及强大的 GPU 和大量的能源消耗。

然而，随着AI模型部署的频率和规模不断增长，推理的累积成本很可能超过这些初始训练成本， OpenAI的ChatGPT已经是这种情况。

要了解有关美国数据中心分布的更多信息，请查看此图，该图显示了数据中心消耗的美国各州电力的百分比。