谷歌发布了一份关于其人工智能环境影响的最新分析报告(PDF),显示其在过去一年中将人工智能文本查询的能耗降低了33倍。现在,每个文本查询的能耗约为0.24瓦时,相当于观看9秒钟的电视。一位匿名读者分享了Ars Technica文章的摘录:“我们估计,Gemini Apps文本查询的平均能耗为0.24瓦时,排放0.03克二氧化碳当量(gCO2e),并消耗0.26毫升(约五滴)水。” 他们总结道。具体来说,他们估计其能耗相当于观看9秒钟的电视。坏消息是,请求量无疑非常高。该公司选择对每个搜索请求都执行一次人工智能运算,而这种计算需求在几年前根本不存在。因此,虽然单个请求的影响很小,但累积成本可能会相当可观。好消息是什么?就在一年前,情况可能还要糟糕得多。这部分是由于环境所致。随着美国及其他地区太阳能的蓬勃发展,谷歌更容易安排可再生能源。因此,过去一年每单位能源消耗的碳排放量减少了1.4倍。但最大的进步是在软件方面,不同的方法已使单位指令的能耗降低了33倍。谷歌团队介绍了公司为此做出的一系列优化。其中一种方法是名为“混合专家”的方法,该方法涉及如何仅激活处理特定请求所需的AI模型部分,这可以将计算需求降低10到100倍。他们开发了多个主模型的精简版本,这也降低了计算负载。数据中心管理也发挥了作用,因为公司可以确保所有活动硬件都得到充分利用,同时让其余硬件保持低功耗状态。另一件事是,谷歌设计了自己的定制 AI 加速器,并构建了在其上运行的软件,这使得它能够优化硬件/软件的两端,使其能够良好地协同运行。鉴于 AI 加速器上的活动占查询总能耗的一半以上,这一点尤为重要。谷歌在运营高效数据中心方面也拥有丰富的经验,这些经验可以延续到 AI 领域。所有这些的结果是,据估计,仅去年一年,典型文本查询的能耗就下降了 33 倍。
在 Slashdot 上阅读更多内容。