iFOC 2023回顾 | 讯石吴娜：AI驱动下光模块市场需求预测

  ICC讯   9月4-5日，第21届讯石光研讨会(iFOC 2023)圆满举办!本届会议吸引了来自近700家企业的1000多位嘉宾出席，聆听行业专家学者及技术骨干的干货分享及巅峰对话，共享光通信行业的前沿技术及市场信息。

  讯石信息咨询高级分析师吴娜在9月5日的主论坛《算力光网与光纤通信技术发展》上发表《AI驱动下光模块市场需求预测》的主题演讲。

  讯石吴娜

  ChatGPT掀起生成式AI热潮，国内外企业纷纷加速AI布局。相关数据显示，在过去8个月里，Hugging Face(正逐步成为全球最大的大模型库)上的预训练模型数量从此前积累的10万个增长到了超过30万个。今年上半年，国内发布的各类大模型数量超过100个，其中参数在10亿规模以上的大约80个。根据OpenAI的研究，AI训练所需算力增速超越硬件的摩尔定律。

  随着GPT-3等大模型参数增长超过GPU内存的增长，HBM(高带宽存储器)成为AI服务器标配。存储龙头SK海力士的HBM目前已发展到第五代HBM3E，最高每秒可以处理1.15TB的数据，进一步拉大内存带宽与网络带宽的差距。

  为解决网络带宽瓶颈，数据中心网络架构需要变革。传统树形网络拓扑中，带宽逐层收敛，树根处网络带宽要远小于各个叶子处所有带宽的总和。而胖树则更像真实的树，越到树根，枝干越粗，即从叶子到树根，网络带宽不收敛，可以提高网络效率，加快训练速度。这是胖树架构能够支撑无阻塞网络的基础。由于不做收敛，需要更多的光口来保证上下行速率一致，因此增加了光模块数量。

  为缩小存储带宽和网络带宽的差距，英伟达引入了服务器间GPU All-to-all直连。在英伟达DGX H100集群中，不同服务器的GPU之间使用NVLink连接到NVSwitch进行通信，因此新增了一套NVSwitch相连的光网络系统，每个服务器有18个OSFP和NVSwitch相连，大幅增加了光模块用量。

  AI应用掀起光连接需求新浪潮。现阶段，英伟达H100的需求火爆异常，订单量已经排满到2024年。知情人士透露称，英伟达目前计划将旗舰H100显卡的产量至少增加两倍，到2024年H100的出货量将达到150万至200万块，比今年预期的50万块大幅跃升。

  从业内观点来看：行业正处于与AI/ML部署相关的长达十年的大趋势的拐点。LC估计，未来五年，AI集群应用光收发器收入将占同期以太网光收发器总收入的38%。Coherent在其股东信函中估计，未来五年内，800G、1.6T和3.2T数通收发器市场的CAGR将超40%;到2028年甚至可能更早，与AI相关的800G和1.6T数通收发器出货量将占所有数通收发器出货量的近40%。

  当然新事物的诞生与兴起，都伴随着一些质疑和不确定性。比如，2023年6月，ChatGPT访问量首次下降，有人认为人们对ChatGPT的新奇感已渐渐消失;野村证券前分析师Richard Windsor表示，除非出现一个人们愿意每月花20美元购买AI应用的大众市场，否则泡沫可能会迅速破灭，并波及相关企业;由于不清楚生成式AI产品的扩张速度，Meta等Hyperscaler对AI投资还存在不确定…..等等。

  但亚马逊云科技 CEO Adam Selipsky也表示：“生成式AI目前处于非常早期的阶段，就像十公里比赛刚跑出几步……它将给世界带来突破式的变革，且有可能是自互联网诞生以来最大的变革。互联网使知识普惠化，生成式AI将使人工智能技术普惠化。”

  在演讲的最后，吴娜总结道： AI应用的兴起与普及将驱动数据中心网络架构变革，从而促进数据中心基础设施投资增长。AI应用需求将为光模块行业带来多少机遇，让我们拭目以待!