OpenAI与博通推出LLM专用芯片Jalapeño

讯石光通讯网 2026/6/25 9:44:50

  ICC讯  2026年6月24日,OpenAI与博通(NASDAQ: AVGO)在旧金山和帕洛阿尔托联合发布了Jalapeño——OpenAI首款“智能处理器”(Intelligence Processor)。这款加速器完全围绕OpenAI对未来大语言模型推理的愿景而设计,也是双方共同打造的多代计算平台中的首款AI加速器,旨在让先进AI变得更快、更可靠,并让更多人能够使用。

  当天,OpenAI首席执行官Sam Altman和总裁Greg Brockman,从博通总裁兼首席执行官Hock Tan及半导体解决方案总裁Charlie Kawwas手中接收了Jalapeño芯片。这一交付标志着OpenAI在构建模型与产品“全栈”战略中迈出了重要一步。

  专为LLM推理设计,并非通用加速器

  Jalapeño是一张“白纸”式的设计,专门面向现代大语言模型推理,而非从早期AI任务改造而来的通用加速器。其设计依据来自OpenAI每天运行ChatGPT、Codex、API以及未来智能体产品时所积累的系统经验,同时也兼顾了行业内当前和未来各类LLM的需求。目标是结合当今领先AI加速器的强大算力和吞吐量,以及最快专用推理系统的低延迟,使Jalapeño非常适合大规模交互式LLM产品。

  OpenAI硬件项目负责人Richard Ho表示:“Jalapeño从头开始为LLM推理设计,我们与OpenAI研究人员密切合作,获得了非常详细的洞察。我们围绕前沿AI模型最关键的内核、数据移动、网络和服务器模式,对架构进行了优化。根据早期测试,Jalapeño将能够接近硬件理论极限的效率执行我们最重要的任务负载。”

  九个月流片,AI模型加速自身设计

  Jalapeño从初始设计到制造流片仅用了九个月,这个定制AI加速器项目可能是高性能先进半导体领域最快的ASIC开发周期之一。这种速度得益于OpenAI工程团队的深度软硬件协同开发、博通的硅实现专长,以及使用OpenAI模型来加速部分设计和优化过程。

  换句话说,用户日常使用的同一个模型,正在帮助改进未来模型的运行基础设施。如果AI能帮助工程师更快地设计出更好的芯片,就能降低整个行业的计算成本,并推动先进AI更普及。

  早期测试:每瓦性能大幅领先,详细报告数月后发布

  虽然OpenAI仍在测量最终性能,但早期测试显示,Jalapeño的每瓦性能将显著优于当前最先进的产品。未来几个月内将发布详细的技术性能报告。该架构减少了数据移动,并平衡了计算、内存和网络资源,使实际利用率更接近理论峰值性能。博通的硅实现和网络技术(包括Tomahawk网络芯片)帮助该平台实现大规模生产。

  扩展OpenAI全栈平台,从产品到模型再到芯片

  Jalapeño的发布进一步扩展了OpenAI的全栈平台——从产品层、模型层,如今延伸到芯片层。OpenAI总裁兼联合创始人Greg Brockman表示:“世界正在迈向以计算为动力的经济。Jalapeño是我们长期全栈基础设施战略的一部分,目标是让计算资源更加充裕,从而使AI更快、更可靠、对个人和企业更实惠,并能够解决更多重要问题。通过自己设计更多栈层,我们可以更高效地提供更多智能,并持续推动先进AI走向更广泛的应用。”

  多代平台规划,2026年底启动千兆瓦级部署

  Jalapeño只是多代计算平台的第一步。该平台计划于2026年底开始初步部署,并在未来数年内持续扩展。它将结合OpenAI设计的加速器、博通的硅实现及网络连接技术,以及Celestica的板卡、机架和系统集成能力。

  博通总裁兼首席执行官Hock Tan表示:“我们与OpenAI的合作,代表了双方对扩展未来十年AI所需物理基础设施的根本承诺。这只是一个多代路线图的开始。通过与OpenAI共同开发我们业界领先的硅芯片,我们正与微软及其他合作伙伴一起,从2026年开始部署千兆瓦级数据中心。”

  工程样品已运行ML负载,包括GPT-5.3-Codex-Spark

  目前,Jalapeño芯片的工程样品已在实验室中以生产目标频率和功耗运行机器学习负载,其中包括GPT-5.3-Codex-Spark模型。虽然最终性能数据尚在测量中,但早期结果令人鼓舞。

  OpenAI表示,Jalapeño不仅为自身模型服务,其架构也具备足够的灵活性,能够适配行业内各种LLM,这得益于OpenAI对当前及未来AI模型推理需求的深刻洞察。通过减少数据搬运、优化资源调度,该芯片能够更充分地发挥硬件潜力,为大规模推理任务提供更高的实际利用率。

  此次发布同时附有OpenAI官方博客文章,提供更多技术细节。OpenAI的使命是确保人工通用智能惠及全人类。博通则是一家技术领先企业,为全球复杂关键任务设计、开发和供应半导体及基础设施软件,总部位于加利福尼亚州帕洛阿尔托。

  随着Jalapeño的问世,AI行业在专用推理硬件领域迈出了重要一步,而九个月的极速开发周期也展示了AI辅助芯片设计的巨大潜力。未来数月内,更多性能数据和部署计划将陆续公布。

  原文:https://www.broadcom.com/company/news/product-releases/64506

新闻来源:讯石光通讯网

相关文章