博通：Hyperscalers在Scale-across项目中正绕过电信运营商

  ICC讯  电信运营商普遍渴望为超大规模企业和Neocloud在数据中心之间建立快速光纤连接，已有数项协议落地。运营商希望整合光纤、光线路系统、交换机和各类服务，以连接分散数据中心中的大规模GPU集群。而Broadcom——这家制造大多数高容量交换机芯片的厂商——正看到此类连接需求的稳步增长。

  Broadcom产品副总裁Hasan Siraj表示："过去两年需求一直在上升，因为集群规模越来越大。部分超大规模企业正自行建设并掌控这些连接。但如果他们确实需要中间的服务提供商，他们也一定会使用。"

  AI数据中心之间的连接通常被称为"Scale-across"，区别于"Scale-up"（AI服务器机架内部连接）和"Scale-out"（机架之间连接）。Siraj表示Broadcom提供覆盖全部三类应用场景的解决方案。

  对于Scale-across架构，硬件级安全是强制性要求。Siraj指出Broadcom的Jericho交换芯片具备深度缓冲和线速加密功能，并利用遥测技术暴露异常或拒绝服务攻击。

  网络即计算机

  Siraj负责Broadcom路由、交换、高性能NIC和开放网络软件产品组合，他表示在AI基础设施中，"网络即计算机"。"当你在训练这些模型或进行分布式推理时，无法将模型适配到单个XPU上，"他告诉Fierce，"你需要根据所执行的任务连接数十、数百、数十万甚至五亿个单元。因此你需要连接所有这些组件，那就是网络。"

  即便计算成本上升，Siraj认为超大规模企业也不太可能大幅削减网络预算。"服务提供商和超大规模企业希望在计算设备到位前三到六个月就完成网络部署，"他说，"他们会先建设网络。当你坐在机架中时，计算设备到来后连接即刻实现。"

  Siraj表示，一个10兆瓦的数据中心可容纳约7000个XPU/GPU/TPU。如果用例需求更大，则需要将数据中心连接在一起。"这些距离可能从数十公里到约100公里不等。"

  EJL Wireless Research分析师Earl Lum同意数据中心互联对于训练AI模型是必需的，但他对分布式推理是否将成为Scale-across连接的主要驱动因素不太确定。"你需要Scale-across将数据中心聚合在一起以训练这些模型并利用所有计算资源，因此需要将它们全部网状连接起来，"他说，"但如果不再需要进行此类训练，你可能就不再需要那些光纤互连。"Lum认为，AI工作负载中专用于推理的部分相对于训练正在上升。

  无论Scale-across连接如何发展，AI预计将推动数据中心内部网络需求的激增。Siraj表示，由于AI架构要求交换机与网络接口卡之间紧密通信，Broadcom开发了一款AI NIC。

  时机恰好

  Broadcom的举措时机恰好，因为运行AI工作负载的GPU使用NIC直接相互通信。对此类网卡的需求已呈爆炸式增长，AI网络接口卡的供应趋紧。市场上占主导地位的Nvidia ConnectX网卡除了最大买家外都难以获得。Siraj表示Broadcom的Thor 2和NetXtreme解决方案供应相对宽裕。"对我们来说，这是一个正在进入的新市场，总体需求确实极高，但对于我们正在合作的客户，我们能够满足需求。"

  与使用AI专用InfiniBand连接架构的Nvidia网卡不同，Broadcom的网卡使用以太网。Siraj表示："我认为行业内现在几乎已达成共识，对于大多数用例，以太网应成为事实上的标准。"这呼应了其他非Nvidia厂商此前的预测。

  原文：https://www.fierce-network.com/wireless/broadcom-sees-hyperscalers-sidelining-telcos-some-scale-across-projects