服务器市场、产业链及竞争格局（2023）

  ICC讯 “人工智能之火点燃算力需求，AI服务器市场拆解”，详细介绍了服务器构成及市场情况、AIGC带来服务器变革、训练&推理带来服务器增量需求、AI服务器市场迎来高速发展机遇、AI服务器产业链解析、AI服务器竞争格局。

  详细技术内容参考“高性能计算知识汇总”及“OpenMP编译原理及实现”，高性能计算应用特征剖析、深度报告：GPU研究框架、《高性能计算和超算专题》。及人工智能之火点燃算力需求，AI服务器市场拆解。

  服务器主要硬件包括处理器、内存、芯片组、I/O (RAID卡、网卡、HBA卡)、硬盘、机箱(电源、风扇)。以一台普通的服务器生产成本为例，CPU及芯片组大致占比50%左右，内存大致占比15%左右，外部存储大致占比10%左右，其他硬件占比25%左右。

  服务器的逻辑架构和普通计算机类似。但是由于需要提供高性能计算，因此在处理能力、稳定性、可靠性、安全性、可扩展性、可管理性等方面要求较高。

  逻辑架构中，最重要的部分是CPU和内存。CPU对数据进行逻辑运算，内存进行数据存储管理。

  服务器的固件主要包括BIOS或UEFI、BMC、CMOS，OS包括32位和64位。

  服务器市场规模持续增长。根据Counterpoint的全球服务器销售跟踪报告，2022年，全球服务器出货量将同比增长6%，达到1380万台。收入将同比增长17%，达到1117亿美元。根据IDC、中商产业研究院，我国服务器市场规模由2019年的182亿美元增长至2022年的273.4亿美元，复合年均增长率达14.5%，预计2023年我国服务器市场规模将增至308亿美元。

  竞争格局：根据IDC发布的《2022年第四季度中国服务器市场跟踪报告Prelim》，浪潮份额国内领先，新华三次之，超聚变排行第三，中兴通讯进入前五。

  目前，AIGC产业生态体系的雏形已现，呈现为上中下三层架构：①第一层为上游基础层，也就是由预训练模型为基础搭建的AIGC技术基础设施层。②第二层为中间层，即垂直化、场景化、个性化的模型和应用工具。③第三层为应用层，即面向C端用户的文字、图片、音视频等内容生成服务。

  回顾GPT的发展，GPT家族与BERT模型都是知名的NLP模型，都基于Transformer技术。GPT，是一种生成式的预训练模型，由OpenAI团队最早发布于2018年，GPT-1只有12个Transformer层，而到了GPT-3，则增加到96层。其中，GPT-1使用无监督预训练与有监督微调相结合的方式，GPT-2与GPT-3则都是纯无监督预训练的方式，GPT-3相比GPT-2的进化主要是数据量、参数量的数量级提升。

  未来异构计算或成为主流

  异构计算(Heterogeneous Computing)是指使用不同类型指令集和体系架构的计算单元组成系统的计算方式，目前主要包括GPU云服务器、FPGA云服务器和弹性加速计算实例EAIS等。让最适合的专用硬件去服务最适合的业务场景。

  在CPU+GPU的异构计算架构中，GPU与CPU通过PCle总线连接协同工作，CPU所在位置称为主机端(host)，而GPU所在位置称为设备端(device)。基于CPU+GPU的异构计算平台可以优势互补，CPU负责处理逻辑复杂的串行程序，而GPU重点处理数据密集型的并行计算程序，从而发挥最大功效。

  越来越多的AI计算都采用异构计算来实现性能加速。

  阿里第一代计算型GPU实例，2017年对外发布GN4，搭载Nvidia M40加速器.，在万兆网络下面向人工智能深度学习场景，相比同时代的CPU服务器性能有近7倍的提升。

  CPU适用于一系列广泛的工作负载，特别是那些对于延迟和单位内核性能要求较高的工作负载。作为强大的执行引擎，CPU将它数量相对较少的内核集中用于处理单个任务，并快速将其完成。这使它尤其适合用于处理从串行计算到数据库运行等类型的工作。

  GPU最初是作为专门用于加速特定3D渲染任务的ASIC开发而成的。随着时间的推移，这些功能固定的引擎变得更加可编程化、更加灵活。尽管图形处理和当下视觉效果越来越真实的顶级游戏仍是GPU的主要功能，但同时，它也已经演化为用途更普遍的并行处理器，能够处理越来越多的应用程序。

  AI服务器作为算力基础设备持续增长

  AI服务器作为算力基础设备，其需求有望受益于AI时代下对于算力不断提升的需求而快速增长。根据TrendForce，截至2022年为止，预估搭载GPGPU(General Purpose GPU)的AI服务器年出货量占整体服务器比重近1%，预估在ChatBot相关应用加持下，有望再度推动AI相关领域的发展，预估出货量年成长可达8%;2022~2026年复合成长率将达10.8%。

  AI服务器是异构服务器，可以根据应用范围采用不同的组合方式，如CPU + GPU、CPU + TPU、CPU +其他加速卡等。IDC预计，中国AI服务器2021年的市场规模为57亿美元，同比增长61.6%，到2025年市场规模将增长到109亿美元，CAGR为17.5%。

  AI服务器构成及形态

  AI服务器主要构成：以浪潮NF5688M6 服务器为例，其采用NVSwitch实现GPU跨节点P2P高速通信互联。整机8 颗 NVIDIAAmpere架构GPU，通过NVSwitch实现GPU跨节点P2P高速通信互联。配置 2颗第三代Intel Xeon可扩展处理器(Ice Lake)，支持8块2.5英寸NVMe SSD orSATA/SASSSD以及板载2块SATA M.2，可选配1张PCIe 4.0 x16 OCP 3.0网卡，速率支持10G/25G/100G;

  可支持10个PCIe 4.0 x16插槽， 2个PCIe 4.0 x16插槽(PCIe 4.0 x8速率)， 1个OCP3.0插槽;支持32条DDR4RDIMM/LRDIMM内存，速率最高支持3200MT/s，物理结构还包括6块3000W 80Plus铂金电源、N+1冗余热插拔风扇、机箱等。

  目前按照GPU数量的不同，有4颗GPU(浪潮NF5448A6)、8颗GPU(Nvidia A100 640GB)以及16颗GPU(NVIDIA DGX-2)的AI服务器。

  AI服务器核心组件包括GPU(图形处理器)、DRAM(动态随机存取存储器)、SSD(固态硬盘)和RAID卡、CPU(中央处理器)、网卡、PCB、高速互联芯片(板内)和散热模组等。

  CPU主要供货厂商为Intel、GPU目前领先厂商为国际巨头英伟达，以及国内厂商如寒武纪、海光信息等。

  AI服务器竞争格局

  IDC发布了《2022年第四季度中国服务器市场跟踪报告Prelim》。从报告可以看到，前两名浪潮与新华三的变化较小，第三名为超聚变，从3.2%份额一跃而至10.1%，增幅远超其他服务器厂商。Top8服务器厂商中，浪潮、戴尔、联想均出现显著下滑，超聚变和中兴则取得明显增长。其中，浪潮份额从30.8%下降至28.1%;新华三份额从17.5%下降至17.2%;中兴通讯从3.1%提升至5.3%，位居国内第5。

  联想降幅最为明显，从7.5%下降至4.9%。

  据TrendForce集邦咨询统计，2022年AI服务器采购占比以北美四大云端业者Google、AWS、Meta、Microsoft合计占66.2%为最，而中国近年来随着国产化力道加剧，AI建设浪潮随之增温，以ByteDance的采购力道最为显著，年采购占比达6.2%，其次紧接在后的则是Tencent、Alibaba与Baidu，分别约为2.3%、1.5%与1.5%。

  国内AI服务器竞争厂商包括：浪潮信息、新华三、超聚变、中兴通讯等。