Q324全球AI加速器收入飙升130%

  ICC讯  Dell’Oro最近发布的一份报告指出，由图形处理单元（GPU）和定制加速器组成的加速器市场，在2024年第三季度的收入增长了130%。美国的主要超大规模云服务提供商，如亚马逊、谷歌、Meta和微软，正积极扩展其基础设施，以支持大型语言模型的训练和推理，预计全年将部署超过500万个能够进行人工智能（AI）训练的加速器。

  Dell'Oro集团高级研究总监Baron Fung表示：“随着超大规模服务商竞相构建用于大型语言模型训练和推理的基础设施，加速器的需求呈现出惊人的增长速度。除了商用GPU之外，美国的超大规模服务商也在增加使用定制加速器来建设AI基础设施。随着大型语言模型规模的不断扩大，对更大计算集群的需求也随之增加，这促使超大规模服务商加快采用定制加速器。他们通常与博通和Marvell等芯片制造商合作开发定制解决方案，旨在提高性能效率、降低成本，并减少对英伟达（NVIDIA）GPU的依赖。”

  此外，该季度报告还强调了以下要点：

  - 2024年，服务器和存储系统组件市场预计将增长超过100%，其中加速器、内存和存储驱动器是推动增长的关键因素。

  - NVIDIA在组件收入方面占据主导地位，远远领先于其他供应商，三星和SK海力士则紧随其后。NVIDIA几乎占到了总收入的一半，而部署定制解决方案的超大规模服务商正在迅速赶上。

  - 2024年第三季度，智能网络接口卡（Smart NIC）和数据处理单元（DPU）的收入几乎翻了一番，这是由AI集群中网卡的强劲部署推动的。

  - 预计到2025年，增长速度虽然会有所放缓但仍将保持健康的两位数增长，年初可能会因库存调整而导致通用服务器组件的增长放缓。

  Dell’Oro曾在2024年8月发布对加速器市场的五年预测。报告称，由于超大规模云服务提供商和企业市场的人工智能相关数据中心资本支出激增，且在预测期内仍将保持高位，未来五年，加速器收入（主要由GPU和定制加速器组成）预计将以38%的复合年增长率（CAGR）增长。