Marvell发布突破性CPO架构 助力定制AI加速器

  ICC讯  美国加州圣克拉拉，2025年1月6日——数据基础设施半导体解决方案的领导者Marvell Technology, Inc.（纳斯达克：MRVL），今天宣布其在共封装光学（Co-Packaged Optics，CPO）技术上的重要进展，用于定制AI加速器（XPU）。基于最近发布的高带宽内存（HBM）计算架构，Marvell正在扩展其定制硅片领导地位，通过让客户将CPO无缝集成到下一代定制XPU中，实现从当前单个机架内数十个XPU使用铜缆连接，到跨多个机架数百个XPU使用CPO连接的转变，从而显著提升AI服务器性能。

  Marvell的创新架构使云超大规模供应商能够开发出更高带宽密度的定制XPU，并在单一AI服务器内实现更远距离的XPU间连接，同时保持最优的延迟和功耗效率。此架构现已可用于Marvell客户的下一代定制XPU设计中。

  Marvell的定制AI加速器架构将XPU计算芯片、HBM和其他Chiplets与Marvell 3D SiPho引擎结合在同一衬底上，采用高速SerDes、模对模接口和先进封装技术。这一做法消除了电信号需要离开XPU封装进入铜缆或穿过印刷电路板的需求。通过集成光学组件，XPU之间的连接可以实现比传统电气线缆快百倍的数据传输速率和距离，使得AI服务器内的扩展连接能够跨越多个机架，同时保持最佳的延迟和功耗。

  CPO技术将光学组件直接集成在一个封装内，最小化电路径长度。这种紧密耦合大大减少了信号损失，增强了高速信号完整性，并降低了延迟。CPO通过利用高带宽硅光子学光学引擎来提高数据吞吐量，相比传统铜连接，这些引擎提供更高的数据传输速率且不易受电磁干扰影响。此外，它还通过减少对高功率电驱动器、重定时器的需求来改善功耗效率。CPO技术通过启用更长距离和更高密度的XPU至XPU连接，促进了高性能、大容量的可扩展AI服务器的发展，优化了下一代加速基础设施的计算性能和功耗。

  在OFC 2024上首次亮相的Marvell 3D SiPho引擎，是业内首款支持200Gbps电接口和光接口的技术，为将共封装光学（CPO）集成到XPU中提供了基础构建模块。Marvell的6.4T 3D SiPho引擎是一个高度集成的光引擎，它集成了32个通道的200Gbps电接口和光接口，以及包括调制器、光电探测器、调制器驱动器、跨阻抗放大器、微控制器在内的数百个组件，以及其他众多无源组件，所有这些都被整合到一个统一的设备中，从而实现了相比100Gbps接口的同类设备两倍的带宽、两倍的输入/输出带宽密度，并且每比特功耗降低了30%。目前，多家客户正在评估这项技术，考虑将其集成到下一代解决方案中。

  八年多来，Marvell为连续几代高性能、低功耗COLORZ®数据中心互连光模块提供硅光子学技术。该技术已被许多领先的超大规模企业认证并部署在大批量生产中，以满足其不断增长的数据中心到数据中心带宽需求。Marvell硅光子学器件的工作时间已超过100亿小时。

  Marvell一直是互连技术变革的先驱，致力于提升加速基础设施的性能、可扩展性和经济效益。Marvell的互连产品组合包括用于定制XPU内部高性能通信的高速SerDes和芯片间技术知识产权（IP）、用于同一电路板上CPU与XPU之间高效短距离连接的PCIe重定时器、用于克服内存挑战的突破性CXL设备、用于机架内短距离连接的有源电缆（AEC）和有源光缆（AOC）数字信号处理器（DSP），以及不断扩展的用于数据中心内机架到机架连接的PAM光学DSP系列，还有用于连接相隔数千公里的数据中心的相干DSP和数据中心互连模块。

  “Marvell的定制AI加速器CPO架构使云超大规模供应商能够开发出显著增加其AI服务器密度和性能的定制XPU。”Marvell定制、计算和存储集团高级副总裁兼总经理Will Chu表示，“将光学组件直接集成到XPU中，将定制加速基础设施提升到了超大规模供应商必须提供的下一个级别的规模和优化水平，以满足AI应用不断增长的需求。”

  “为了支持前所未有的XPU集群规模，AI可扩展服务器需要具有更高速度的信号传输能力和更长距离的连接。”Marvell网络交换业务部高级副总裁兼总经理Nick Kucharewski说，“在定制XPU中集成共封装光学是提升性能、实现更高互连带宽和更远距离的合理下一步。”

  “硅光子对于扩展加速基础设施的连接至关重要，可以满足日益增长的带宽需求、互连距离、功耗和总拥有成本。”Marvell光平台高级副总裁兼首席技术官Radha Nagarajan说，“自2017年以来，Marvell一直是高产量硅光子器件领域的先驱，我们利用这一专长为定制XPU连接这一杀手级CPO用例创建了前沿的CPO架构。”

  “云超大规模供应商将把CPO技术集成到他们下一代的定制XPU和可扩展服务器中，以满足AI性能需求的急剧增长。”LightCounting创始人兼首席执行官Vlad Kozlov预测，“我们预计，CPO将从目前不到5万端口的发货量增长到2029年超过1800万个CPO端口，其中大多数端口将用于服务器内部的连接。凭借在光学技术和定制XPU方面的丰富经验，Marvell处于绝佳的优势地位，能够帮助超大规模企业充分挖掘共封装光学（CPO）的潜力，并将其作为基础设施的关键组成部分。”

  原文：https://www.marvell.com/company/newsroom/marvell-co-packaged-optics-architecture-custom-ai-accelerators.html