Marvell CEO：2023-2025财年人工智能收入CAGR将超100%

  ICC讯（编译：Nina）在5月底的第一财季财报电话会议上，Marvell总裁兼首席执行官Matt Murphy详述了人工智能(AI)为公司带来的巨大机遇：

  过去，我们认为人工智能只是云计算中的众多应用之一，但它的重要性和机会已经急剧增加。生成式人工智能(Generative AI)正在迅速推动新的应用，并改变我们云客户的投资优先级。今天的人工智能工作负载需要真正庞大的数据集。

  为了有效地处理这些数据，人工智能数据中心的架构与标准的云基础设施有很大不同。人工智能中的主要构建块是一个包含多个加速器(如GPU)的系统，而不是将双插槽服务器作为机架中的核心元素。在大型部署中，数千个这样的系统相互连接，形成一个数据中心大小的人工智能集群。互连这些系统所需的带宽比标准云基础设施高出几个数量级。

  比如说，目前云数据中心中最新的双CPU服务器可以驱动高达200Gbps的IO，并包含支持该带宽的网络接口。相比之下，一个包含8个加速器的先进人工智能系统可以驱动近30TB的全双工带宽。这是将这些系统连接在一起所需带宽的数百倍。请记住，领先的云数据中心将数千个这样的系统连接到一个集群中，为其客户提供最大的可扩展性，每个这样的系统都能够驱动数十TB的网络流量。

  为了在数据中心规模上创建尽可能大的集群规模，这些连接需要能够在越来越远的距离上运行。这些集群需要惊人数量的高带宽连接，且所有这些高带宽连接都需要在合理的功率范围内以超低延迟和高可靠性提供。这种连接最好由全光连接的基础设施提供，利用数字信号处理和低延迟、高容量的光纤交换机。这就是为什么我们将人工智能视为PAM4光学DSP平台的强大增长驱动力。

  值得注意的是，这些DSP与各种网络协议兼容，如以太网、InfiniBand和其他专有解决方案，以实现最大的广度和灵活性。展望未来，我们看到这一趋势只会加速。尽管当今最先进的人工智能系统已经在使用可用的最高带宽接口，但您可能会惊讶地发现，当前人工智能实现的性能规模仍然受到网络容量的限制。以我前面讨论的8加速器AI系统为例。

  目前，这些系统通常包含4个800Gbps外部连接光接口，提供每秒3.2TB的带宽。但这是在一个能够驱动接近10倍带宽的系统中实现的。为了弥补这一差距，我们预计随着这些集群的规模扩大，每个人工智能系统的光学接口数量将继续增长。预计下一代加速器将具有更高的计算能力和更高的带宽要求。

  考虑到人工智能基础设施的发展速度，技术更新周期为18到24个月，而标准基础设施的更新周期为4年多。总之，我们预计这些AI集群中的大量连接、更高速光学接口的日益采用和更快的更新周期将成为我们PAM4 DSP平台的主要需求驱动因素。事实上，在上一次电话财报会议中，我们指出，我们行业领先的800G DSP平台的增长几乎完全是由AI应用驱动的。我们还推出了业界首个1.6TB PAM4 DSP平台，将当前一代的吞吐量提高了一倍。我们预计人工智能也将推动这些产品的初步采用。

来源：Marvell官网

  此外，由于服务提供商在多个区域数据中心部署了推理(Inference)，这些数据中心需要通过数十公里的高带宽、低延迟光链路连接。这项技术被称为数据中心互连(DCI)，而Marvell一直是该市场的先驱。我们为DCI创建了业界首个可插拔模块，目前我们最新的DCI产品线提供400Gbps的速率。

  我们已经看到，人工智能云数据中心正在推动我们400ZR解决方案需求的大幅增长。我们DCI产品的另一个需求驱动因素是，服务提供商正计划在不同站点的集群加速器上实施下一代人工智能。人工智能也是数据中心内交换需求的关键增长驱动力。Marvell在低延迟、高容量交换机市场上的地位越来越高，我们看到市场对我们产品的强劲需求。

  我们最近发布了下一代51.2T Teralynx 10以太网交换平台。平台基于我们从Innovium收购的低延迟架构，并建立在Marvell领先的5nm技术平台上。我们看到客户对这种产品非常感兴趣。我们预计人工智能将引领行业从目前的12.8T交换机过渡到51.2T，使网络带宽翻四番。

  我们预计51.2T的采用将成为网络半导体市场的强劲增长动力。综上所述，Marvell已经在人工智能网络连接领域建立了领先地位。我们预计，在人工智能投资不断增长的推动下，PAM4光学、DCI和以太网交换解决方案将出现巨大增长。也许，更令人兴奋的是，Marvell有机会为我们的云优化硅平台解决人工智能计算问题。

  正如前面所述，人工智能数据中心的架构是根本不同的。在标准云基础设施中，大部分计算由CPU执行，而加速器主要用于卸载任务，如网络和安全。相比之下，在人工智能基础设施中，GPU等加速器是主要的计算引擎，而CPU用于控制目的，与标准云基础设施形成了180度的逆转。根本性的差异导致人工智能基础设施中加速器与CPU相比的比例更高，加速器现在是主要的计算机会。

  鉴于此，再加上人工智能投资的急剧增加，正在推动更高比例的增量计算TAM和云数据中心转向加速器。今天，我们看到云客户通过构建自己的定制加速器来增强他们的人工智能产品，以满足他们的特定需求。这是Marvell云优化硅战略的核心部分，我们现在看到，在人工智能基础设施中，定制计算拥有更大、更快增长的机会。当我们之前在2021年10月的投资者日上讨论我们的云优化硅机会和收入增长预期时，我们预计，一旦所有项目投入生产，首批Design Win的收入将增长到每年8亿美元。

  这些Design包括各种加速计算应用，包括人工智能、安全、存储和视频，以及一些网络应用。今时今日，当我们看到由人工智能驱动的同一组Design Win时，我们对其在整个生命周期的总收入预期显著增加。与此同时，人工智能在整个生命周期收入中所占的相对比例从我们之前预测的约20%增加到今天的一半以上。因此，计算人工智能应用现已成为Marvell云优化硅平台最大的收入来源和机会。

  随着人工智能需求的持续增长，我们看到，随着时间的推移，这些云优化Design Win的年收入将远远超过此前预计的8亿美元。事实上，我们有许多与人工智能相关的定制硅产品，预计明年将投入批量生产。

  除了在人工智能网络连接方面的强势地位外，我们相信Marvell已经做好了应对计算机会的准备。在过去的几个月里，我们花时间仔细绘制了人工智能的收入图，以跟踪它的进展。鉴于我们已经取得的巨大进步，包括最近客户需求的增长，我们预计人工智能应用带来的收入将加速增长。在2023财年，我们估计我们的人工智能收入约为2亿美元，比前一年大幅增长。

  该收入主要来自我们的PAM4光学和400ZR DCI产品。自3月初财报电话会议以来，这些产品的预订量大幅增加。因此，我们预计Marvell的整体人工智能收入在2024财年至少会翻一番。展望2025财年，我们预计人工智能网络连接将继续实现强劲增长。

  总的来说，我们预计明年我们的整体人工智能收入将至少再翻一番。换句话说，我们预测2023-2025财年人工智能收入的复合年增长率将超过100%。未来，我们预计涉及视频和图像的生成式人工智能实现将为HDD和闪存的整体存储和EB增长提供推动力。