据市场分析公司 Canalys 称,由于云端模型推理成本不可预测且通常较高,企业采用人工智能的速度正在放缓。尽管云基础设施支出增长强劲,但企业越来越关注成本效益,一些企业选择公共云提供商的替代方案,以应对基于使用量且波动的定价模式。The Register 报道:[Canalys] 发布的统计数据显示,随着云计算的持续采用,今年第一季度全球企业在基础设施和平台即服务上花费了 909 亿美元,同比增长 21%,其中包括微软、AWS 和谷歌等公司。Canalys 表示,增长来自企业用户将更多工作负载迁移到云端,并探索使用严重依赖云基础设施的生成式人工智能。然而,即使组织已经从开发和试验阶段转向部署人工智能模型,对推理服务持续经常性成本的不明确正成为一个问题。 Canalys 高级总监 Rachel Brindley 表示:“与一次性投资的训练不同,推理是一项经常性的运营成本,这使其成为 AI 商业化道路上的关键制约因素。” 她补充道:“随着 AI 从研究阶段转向大规模部署,企业越来越关注推理的成本效益,并比较各种模型、云平台以及 GPU 和定制加速器等硬件架构。” Canalys 研究员张毅表示,许多 AI 服务遵循基于使用量的定价模式,按每个令牌或 API 调用收费。这使得随着服务使用规模的扩大,成本预测变得困难。“当推理成本波动或过高时,企业被迫限制使用、降低模型复杂性或将部署限制在高价值场景中,” 张毅表示。“因此,AI 的广泛潜力仍未得到充分利用。” […] 据 Canalys 称,云提供商正致力于通过为 AI 构建的现代化基础设施来提高推理效率,并降低 AI 服务的成本。报告指出,AWS、Azure 和谷歌云“继续主导 IaaS 和 PaaS 市场,占全球客户支出的 65%”。“然而,微软和谷歌正在缓慢追赶 AWS,AWS 的增长率已从 2024 年最后一个季度的 19% 放缓至‘仅’17%,而这两家竞争对手的增长率均超过 30%。”
在 Slashdot 上阅读更多内容。