ICC讯 AI基础设施正进入新阶段。行业讨论主要集中在scale-up和scale-out:如何在一个系统内、跨机架或在一个数据中心内的大型AI集群中连接更多加速器。这些挑战仍然关键,但另一个维度正变得越来越重要:scale-across。
Scale-across跨多个数据中心、建筑、园区、都市或区域连接AI算力,使分布式加速器集群能够更像一个统一的大型AI工厂运行。它不仅仅是传统数据中心互联换了个新名字。传统DCI主要设计用于在设施之间可靠地移动数据。Scale-across必须帮助运营商以高容量连接、可预测性能、高可用性和工作负载感知的延迟、抖动及拥塞管理来池化AI基础设施。
AI算力需求增长快于任何单一设施所能吸收的速度。扩展不再仅仅关乎一个机架或集群内能容纳多少GPU。它日益关乎能否在一个地点足够快地获得足够的电力、冷却、土地、光纤、许可、电网容量和可部署的光学基础设施。AI基础设施沿一个连续体扩展,从靠近芯片和机架的光连接,到跨设施连接算力的更广泛网络。
图1——AI基础设施扩展的三种方式。AI系统从系统内部和机架内的短距离、高密度连接,扩展到连接跨数据中心、园区、都市和区域的分布式加速器集群的更广泛光网络。
电力正成为架构约束
几十年来,数据中心架构由计算密度、网络带宽、每比特成本和运营效率塑造。这些指标仍然重要,但AI增加了一个更物理的约束:电力可用性。现代AI集群在狭小空间内集中巨大电力负载。随着运营商规划更大的训练集群和更高量的推理基础设施,限制因素往往是能否在所需时间表内提供足够电力、移除足够热量、获得土地并接入电网。
这改变了架构讨论。如果电力不能总是足够快地输送到一个站点,AI基础设施必须变得更加分布式。运营商可能需要在相邻建筑、多设施园区、都市区数据中心或更长距离区域池化资源。换句话说,移动千兆字节可能比移动千兆瓦更容易。距离不是免费的。延迟仍然重要,并非每个AI工作负载都能跨站点高效分布。但随着电力和建设时间表变得更加困难,网络成为使分布式计算可用的关键工具。
Scale-Across不只是DCI
传统DCI长期支持存储复制、可用区、备份、对等互联、内容分发和工作负载迁移。AI改变了这些链路的作用。一些训练和推理架构可能使用分布式加速器、存储和服务池,但仅当工作负载能容忍增加的距離,或当软件和网络技术能够隐藏或管理延迟时。对于许多scale-across用例,带宽、可用性、拥塞控制和可预测性能将比超低延迟更重要。部署模型将因园区、都市和区域而异,支持训练、推理、弹性、模型分发、数据移动和容量池化。在每种情况下,随着AI系统扩展到单一设施之外,光层变得更具战略性。
光学成为使能技术
随着AI基础设施扩展到物理位置,光网络使分布式扩展变得实用。铜缆无法在园区、都市或区域距离上解决这个问题。仅靠分组交换无法在不仔细关注功耗、延迟、拥塞和运营复杂性的情况下解决它。相干可插拔模块如400ZR/ZR+、800G级ZR/ZR+和新兴1.6T级变体,以可直接插入路由器和交换机的紧凑外形,实现跨数据中心、都市和区域距离的高容量连接。这些模块内部是关键光学构建块,包括可调激光器、相干光学子组件、调制器、接收器和光子集成。随着容量需求增长,scale-across网络还将依赖更多并行光纤路径、更密集的线路系统和高效光放大,以在受限的功耗和空间范围内移动更多流量。光电路交换为动态连接高容量光路径增加了灵活、低损耗的连接。由于基于MEMS的光交换可以对协议、调制格式和波长频段透明,它可以支持不断演进的光接口,而无需每次网络变化时重新设计交换结构本身。
Lumentum在Scale-Across中的角色
Lumentum供应相干DCI、都市和长距网络中使用的关键光学构建块,包括高性能ITLA、TROSA和用于光放大的泵浦激光器。这些组件有助于实现相干光链路成为scale-across AI基础设施基础所需的可调性、光学性能、集成度和可靠性。Lumentum基于MEMS的光电路交换技术为AI网络架构中的O波段、C波段和L波段应用增加了灵活、低损耗的光连接。对于scale-across和DCI,它可以支持承载ZR/ZR+等相干互连的光连接,同时为运营商提供旨在随数据速率、调制格式和网络架构演进的交换层。Lumentum还带来在高量产光学组件、激光器、波长管理/WSS和光子集成方面的深厚经验。随着AI网络扩展,行业将需要能够以超大规模提供性能、可制造性、可靠性和功耗效率的光学技术。
架构启示
Scale-across的兴起是因为AI基础设施正遭遇现实世界的约束。未来不仅取决于一个机架或集群能容纳多少加速器,还取决于运营商能否有效地在电力、冷却、土地、光纤和网络容量可用的地方池化算力。AI基础设施正变得地理分布式,但工作负载体验仍需感觉协调一致。实现这一点需要更高容量、更灵活、更节能、更可靠的光网络。这就是“传输千兆字节,而非千兆瓦”背后的前提,也是scale-across正变得至关重要的原因。
原文:https://www.lumentum.com/en/blog/moving-gigabytes-not-gigawatts-rise-ai-scale-across-networking