IBM引入“光的力量”至芯片 使速度提升80倍

  ICC讯  周一，IBM宣布在光学技术上取得了突破性的进展，该技术有望大幅改进数据中心训练和运行生成式人工智能（AI）模型的方式。其新型共封装光学技术（Co-packaged optics）基本实现了将光学技术的力量带入芯片内部，使得数据中心内的连接可以达到光速。

图片来源：IBM官网

  在一次媒体简报会上，IBM半导体总经理Mukesh Khare对记者说，电信行业在制造更快的芯片方面已经取得了显著进步，但是这些芯片之间的通信速度并没有跟上这个步伐。计算能力的增长速度与芯片间通信速度的增长速度之间存在几个数量级的差距。

  他指出：“实际上，从更基础的层面上讲，芯片依然通过电进行通信，它们使用铜线。而我们都知道，最优秀的通信技术是光纤，这就是为什么在长距离通信中到处都在使用光纤。”

  尽管共封装光学技术已经存在一段时间，但IBM开发了一种新型的聚合物光波导（PWG）技术，为共封装光学带来了革新。PWG技术使得芯片制造商能够在硅光子芯片的边缘区域——这一被称为“黄金地段”的宝贵空间——布置比以往多六倍的光纤。每根光纤的宽度大约是人类头发的三倍，长度可以从几厘米延伸到数百米，并且能够以每秒太比特的速度传输数据。

  这一切意味着什么呢？

  该公司表示，这项技术将使得芯片间的通信带宽比现在使用电子技术时快80倍，并将能耗降低五倍以上。

  此外，它还可以使大型语言模型（LLM）的训练速度提高多达五倍，将训练标准LLM所需的时间从三个月缩短到三周，而且随着更大模型和更多GPU的使用，性能增益还会增加。

  除了让GPU和加速器之间更快地相互通信之外，这种技术还可能重新定义计算行业通过电路板和服务器传输高带宽数据的方式。

  Khare表示：“我们非常兴奋能够引入光的力量，从根本上加速了人工智能世界和许多其他应用的发展。”

  当被问及这项技术何时会商业化时，Khare表示IBM的研究部门“已经准备好投入使用”。

  官方原文：https://uk.newsroom.ibm.com/IBM-Brings-the-Speed-of-Light-to-the-Generative-AI-Era-with-Optics-Breakthrough