ICC讯 AI正在从根本上改变数据中心内部连接的作用,以至于数据中心内部网络变得与计算本身同等重要。数据中心内部的后端网络(连接AI加速器彼此之间以及与内存之间以分配工作负载)实际上正在成为计算系统的延伸。
那么,我们面对的是数据中心内部网络的革命还是演进?也许是两者的结合。
AI工作负载的革命性激增正在推动新技术的出现,但这些技术利用了现有的方法,建立在延续多年的持续创新之上。
几十年来,铜缆一直是数据中心内部连接的默认选择。铜缆价格低廉,易于使用,在短距离内效果良好。但随着数据速率提高和距离增加,铜缆面临挑战,信号完整性因衰减和电磁干扰而下降。
另一方面,光纤可以在更长的距离上传输更高的数据速率,信号损失极小且没有电磁干扰。目前,几乎所有超过约5米(即任何超出单个机架的高性能连接)的400 Gbps数据中心连接都已转向光纤。更快的AI加速器已经推动机架内部连接转向光纤。最终,AI工厂数据中心内的每一个连接都将使用光纤实现。
过去几年,光链路速度取得了令人瞩目的进展,从100 Gbps快速发展到400 Gbps、800 Gbps,以及新兴的1.6 Tbps。然而,满足AI训练和推理的需求需要的不仅仅是更快的端口。
AI重新定义数据中心网络
从历史上看,数据中心采用纵向扩展策略来增长:一种垂直方法,即在机架中添加更大的服务器或更多的处理器。现代AI挑战了这一范式。大型AI模型和分布式训练需要协调数千个处理器/加速器同步工作。这意味着数据中心建设需要进行横向扩展,连接机架、排和相邻建筑之间的无数节点,使其作为一个单一的计算结构来处理共享任务。
尽管分布式计算并不新鲜,但这些AI结构的规模和性能是前所未有的。巨大的AI训练集群正在建设中,其中的横向扩展网络以个位数微秒的延迟处理每秒太比特的流量,连接数千个机架,每个机架配备数十个GPU。对大型AI集群的公开估算表明(对整个结构中的光学器件进行平均),每个GPU可能需要三到六个光收发器。这意味着在拥有数十万个GPU的单个数据中心中,需要超过一百万个短距离光收发器来连接服务器到机架顶部叶交换机,以及机架顶部叶交换机到脊交换机。
事实上,LightCounting等行业分析师预测,以太网光收发器和共封装光学的销售额将在未来五年内翻倍,其中数据中心内部应用将占增长的大部分。预计未来几年全球需求将达到每年数亿台,以支持AI集群的大规模部署。
今日的可插拔光学:FRO、LRO、LPO
为了支持AI光学的爆发,创新不仅集中在更快的链路上,还集中在光模块本身的设计和部署方式上。在数据中心内部,功耗效率和密度至关重要。这导致了新的光学架构的出现,这些架构在降低功耗和占用空间的同时提高了部署灵活性。
传统的可插拔光模块使用全重定时光学(Fully retimed optics,FRO),它在发射和接收路径上集成了信号处理。这以功耗和延迟为代价提供了强大的性能和长距离传输。较新的方法则更为轻量化。线性接收光学(Linear-receive optics,LRO)通过依赖交换ASIC中的信号处理来简化接收路径,显著降低了模块功耗和延迟。进一步推进这一概念,线性可插拔光学(Linear pluggable optics,LPO)完全消除了可插拔模块中的主动信号处理,为短距离链路提供了非常低的功耗和极小的延迟,前提是主机设计支持该模型。
重要的是,这三种方法在现代数据中心网络中共存。全重定时光学继续服务于需要距离和稳健性的应用,而线性接收光学和线性可插拔光学在高容量、短距离的数据中心内部链路中日益受到重视,在这些链路中效率和密度至关重要。这些方法共同展示了光学的演进路径,在革命性的数据中心网络为AI扩展时平衡性能和功耗。
未来的光学演进:NPO、CPO、XPO
可插拔光学器件正在被重新构想。一个名为“超高密度可插拔光学”(Extra-dense pluggable optics,XPO)的新概念由一家行业联盟在2026年初提出,旨在显著提高光学前面板密度,这是数据中心内部连接的一个关键限制因素。一个XPO模块提供前所未有的12.8 Tbps带宽,虽然它比八通道小尺寸可插拔模块(OSFP)更大,但相比当今的可插拔解决方案,它仍能使前面板密度提高约四倍。由于XPO集成了液冷,这些模块还能够支持更耗电的相干光学。
与此同时,业界也在探索更大胆的光学集成模式。
这一转变的核心是一个简单的想法:将光学器件靠近计算或交换芯片可以减少信号损耗和补偿损耗所需的功耗,同时克服前面板的空间限制。
近封装光学(Near-packaged optics,NPO)将光学引擎移出前面板,靠近交换芯片,缩短电气距离并提高效率。这种方法在功耗和信号质量方面带来了明显的提升,但牺牲了灵活性,因为光学器件不再易于更换。
共封装光学(Co-packaged optics,CPO)更进一步,将光学器件直接集成到交换芯片封装中。通过大幅减少电气互连,共封装光学有望实现超低延迟和卓越的能效。同时,它也挑战了关于可维护性、制造和互操作性的长期假设。
总的来说,XPO、NPO和CPO说明了数据中心内部光学器件的演进不再仅仅是关于更快的链路,而是关于在AI时代从根本上重新设计光学器件、电子器件和计算如何结合在一起。
AI时代的数据中心连接既经历着革命,就需求与规模而言,也在经历着演进,建立在数十年的光学进步之上。
原文:https://www.eetimes.com/connectivity-revolution-or-evolution-inside-data-centers/
-end-
【活动推荐】
重磅线上论坛来袭!6 月 30 日 13:30,AI × Connect AI 高速互连论坛开启直播,即刻扫码 / 点击链接抢占席位!
活动亮点
· 前沿技术解析:光迅科技详解 NPO 技术,破解 AIDC 带宽功耗难题,梳理产业化落地路径。
· 大厂联合分享:博通联手是德,围绕大模型,拆解以太网 Scale-up 新技术与实测方案。
· 多款自研测试方案亮相:发布 FITS、高速线缆、高频 PCB、1.6T 光模块全套国产化测试方案。
· 全产业链覆盖:覆盖 NPO、以太网、高速线缆、PCB、1.6T 光模块,贯通 AI 互连全链路测试。