7万亿的野心,9个月流片,OpenAI自研芯片Jalapeño背后的故事
作者 | 肖恩
编辑 | 德新
OpenAI 的第一颗自研芯片,终于被端到了台前。
2026 年 6 月 24 日,OpenAI 和博通正式公布了 Jalapeño。
这个词来自西班牙语,指的是一种原产墨西哥的辣椒。名字听起来有点随意,但它背后是一颗 OpenAI 围绕大模型推理设计的芯片。
关于 Jalapeño 的完整参数还没有公开。但是从博通最新一代 AI XPU 封装平台 3.5D XDSiP 上,可以一窥这颗芯片可能的技术方向:台积电最新的2nm工艺、F2F 垂直堆叠和 CoWoS 封装技术,以及面向大规模 AI 集群的以太网和 I/O接口。
OpenAI 和博通在 2025 年 10 月正式公布自研芯片合作。九个月后,这颗芯片完成流片,工程样片已经在实验室里运行 GPT-5.3-Codex-Spark。复杂 ASIC 从设计到流片,通常要按年算,Jalapeño 把这个过程压缩到了九个月。
这里面不只有博通的工程能力,OpenAI 也第一次把自己的大模型用在了加速芯片的设计流程。
但 Jalapeño 不是整个故事的起点。
时间往回拨到 2023 年。那时 OpenAI 的芯片计划还没有这个辣椒的名字,Sam Altman当时向外界描绘的也不是一颗芯片,而是一个最高达到7万亿美元的宏大计划。
这个计划的名字叫 Tigris。
一、疯狂的 Tigris 和现实的 Jalapeño
2023 年下半年,OpenAI 正处于一种冰火两重天的奇特状态。
一方面,ChatGPT 在全球范围内疯狂扩张,用户量以不可思议的速度呈指数级增长,OpenAI 瞬间成为整个科技界最耀眼的明星。但另一方面,聚光灯背后的 Sam Altman 和他的工程团队,却在忍受着算力供应链吃紧带来的极度煎熬。
当时,英伟达的 GPU 面临全行业哄抢,供货周期被拉得无限长,昂贵的价格和紧缺的供应让任何宏大的大模型迭代计划都步履维艰。
更让 OpenAI 沮丧的是英伟达芯片的物理限制。在运行 Codex 这样的应用时,通用 GPU 的吞吐和延迟表现,已经无法满足 OpenAI 的要求。
Altman 敏锐地意识到,随着模型规模持续膨胀,如果把将整个公司的命运和 AGI 的梦想完全押在英伟达的通用 GPU 上,在经济学上是不可持续的。
正是在这个时间节点上,一个野心勃勃的硬件自救计划在 Altman 脑海中成型。这个计划在 OpenAI 内部被称为“Tigris(底格里斯河)”。
在最初的设计中,Tigris 并不是一个简单的自研芯片项目,而是一场旨在重塑全球半导体版图的宏大计划。为了彻底巩固 AI 芯片的供应链,Altman 开始游走于世界各地的资本巨头之间,试图筹集一笔惊人的资金—— 5 万亿至 7 万亿美元。
7 万亿美元是什么概念?它超越了当时德国或英国的年度 GDP,是全球汽车产业年总收入的数倍,更是当时全球芯片产业年收入的十几倍。
Altman 的目标是用这笔天文数字的资金,在全球范围内建立起一个庞大的芯片晶圆厂制造网络,从最源头的沙子和光刻机开始,彻底解决算力产能问题。为此,他频繁会晤中东投资人,包括阿布扎比主权财富基金主席、G42 集团负责人谢赫·塔农(Sheikh Tahnoun),后者是阿联酋及阿布扎比统治家族中最具权势和影响力的人物之一,并且于2023 年 10 月促成了 OpenAI 与 G42 的战略合作。
然而,这个野心勃勃的计划在 2023 年 11 月戛然而止。
由于项目牵涉的利益过于庞大、Altman 在公司外的频繁集资举动,以及关于 AI 安全性的意识形态撕裂,OpenAI 董事会毫无预兆地突然解雇了 Sam Altman。尽管在短短一周后,在微软、员工以及投资人的强大压力下,Altman 重新夺回了 CEO 的宝座,但这场震惊科技界的“董事会风波”却成为了Tigris 项目的分水岭。
重返岗位后的 Altman 和重组后的 OpenAI,开始以更加谨慎和务实的态度重新审视硬件战略。那个建立全球晶圆厂网络、耗资数万亿的疯狂计划最终被搁置。
半导体是一个极度重资产、需要数十年工业积累且地缘政治极度复杂的领域,OpenAI 作为一家软件和算法公司,根本不具备独自下场造晶圆厂的基因。
OpenAI 需要一条更聪明、更轻资产、能以最快速度见效的硬件突围之路。
于是,“自研设计 + 巨头共研 + 晶圆代工”的合作开发模式正式浮出水面。
Jalapeño 项目正式开始。
二、OpenAI 为什么选择了博通?
在选择了合作开发的模式后,OpenAI 面临的第一道难题,就是找到一位能帮他们把算法蓝图变成实体硅片的引路人。
放眼当时的整个半导体行业,有能力承接这种万亿级算力野心的公司屈指可数。
最终,OpenAI 将目光锁定在了低调却掌控着定制 AI 芯片帝国大半江山的隐形巨头——博通(Broadcom)。
这中间牵线人的角色,是 OpenAI 的硬件项目主管 Richard Ho。
Richard Ho 曾经是谷歌 TPU 团队的核心贡献者,曾主导了多代 TPU 的微架构设计。在谷歌任职期间,他最亲密的战友正是博通。多年来,谷歌的 TPU 家族背后,博通一直扮演着其“影子设计者”的角色。
2024 年初,Richard 加入 OpenAI 硬件团队,并在领导团队迅速扩充至约 40 人的规模。
带着对博通半定制 ASIC 能力的绝对信任,Richard Ho 牵线搭桥,2024 年夏天 OpenAI 与博通总裁陈福阳及半导体解决方案总裁 Charlie Kawwas 会面。
对于当时的 OpenAI 而言,博通拥有三个英伟达以外任何人都无法提供的能力:
第一,无可匹敌的 ASIC 霸权与技术积累。
在定制 AI 加速器设计服务市场中,博通已经吞下了约 70% 的市场份额。它不仅是谷歌 TPU 的幕后推手,也是 Meta 自研芯片 MTIA 的核心协作者。这意味着,博通手里拥有海量已经跑通的、可复用的逻辑 IP、高带宽内存接口(HBM)和以太网网络技术。
OpenAI 想要在短时间内极速流片,不可能像传统芯片公司那样从零开始,他们必须直接把自家的算法内核,像拼图一样嵌入博通已经成熟的定制 XPU 平台中。
第二,台积电先进封装的“至尊 VIP 绿卡”。
在 AI 算力军备竞赛中,芯片能不能设计出来是一回事,台积电能不能给你排产、特别是提供极度紧俏的 CoWoS 先进封装产能,则是另外一回事。作为台积电全球最大的顶级客户之一,博通拥有极高的供应链话语权和产能配额。
OpenAI 如果单枪匹马去找台积电,极有可能会被排在苹果和英伟达的队伍后面。但通过博通,OpenAI 相当于买到了台积电先进封装与 3nm/5nm 领先制程的“优先入场券”。
第三,博通刚刚成熟的 3.5D 先进封装平台。
2024 年底,博通交付了行业首个 3.5D F2F 垂直硅堆叠封装平台。
然而,即便双方战略意图高度契合,这场万亿估值新贵与老牌半导体巨头的合作,依然经历了拉锯战。
谈判桌上的最大博弈,是半导体制造业的财务回报率与资金风险。
在外界看来,自研芯片是一本万利的生意,但对于设计服务商博通而言,定制 AI 芯片暗藏风险。
博通首席执行官陈福阳很精明。他非常清楚,定制 AI 芯片与博通传统的、毛利率极高的网络交换芯片截然不同。AI 加速器需要捆绑海量极为昂贵的第三方高带宽内存(HBM)。这导致芯片的 BOM 成本高得吓人,极大地压缩了博通在这些项目上的毛利率空间。
如果 OpenAI 的万亿 IPO 估值出现波动,或者未来的算力消耗不及预期,前期垫付的高昂流片与封装测试费用将成为博通财报上沉重的包袱。陈福阳必须确保,每一代 XPU 的研发和制造费用都有 OpenAI 及微软等背后金主实打实的长期购买合同和资金担保。
最终,经过长达数月的艰苦拉锯,双方达成了一项兼顾速度、风险和长远利益的“双赢协议”。
这是一份典型的“软硬共生协议”:OpenAI 负责将他们对大模型内核、内存搬运模式以及自回归推理规律的最前沿洞察,固化为芯片的微架构蓝图;博通则发挥其硅片物理实现、垂直硅堆叠封装和网络互连的特长,将这张蓝图在 9 个月内工业化,最后由加拿大 Celestica 负责将芯片组装成定制服务器和机架。
2026 年 6 月 24 日,当陈福阳和 Charlie Kawwas 亲手将那一枚闪烁着金属光泽的 Jalapeño 晶圆原型递交到 Sam Altman 和 Greg Brockman 手中时,不仅是一次商业交付,更是科技史上两个时代力量合流的里程碑。
三、Jalapeño 硬件的设计逻辑
当 OpenAI 决定自研芯片时,面临的第一个工程问题就是大模型推理的底层物理限制。
前面的文章提到过,推理阶段本质上是受到内存带宽的制约。
因此,Jalapeño 的核心设计逻辑非常简单:剔除通用 GPU 中用于图形渲染、三维物理模拟等与 AI 无关的冗余逻辑,转而做一颗完全围绕大模型推理,尤其是“思考模型”内核和数据流动特征进行高度定制的ASIC芯片。
从披露的晶圆和封装结构来看,Jalapeño 的设计在物理规格和系统布局上,做出了几次非常典型的工程折中。
首先,这颗芯片采用了超大面积的单晶片设计。其计算裸片面积达到了 840 平方毫米左右,这已经极度逼近了 EUV 光刻机光罩 858 平方毫米的绝对物理极限。
在 Chiplet 拼接技术大行其道的今天,OpenAI 依然坚持使用逼近极限的单晶片,核心考量在于延迟和数据传输效率。
多芯片拼接虽然能提高晶圆的良率、降低制造成本,但芯片与芯片之间的互连会不可避免地带来额外的物理延迟和信号损耗。对于极其强调交互体验、对延迟高度敏感的 LLM 推理场景,单晶片能够提供更直接的片内数据通路,从而实现超低延迟。
在主计算核心的微架构上,Jalapeño 采用了高度规整、呈柱状重复的脉动阵列布局,这与谷歌 TPU 的设计十分相似。
在这种微架构下,数据在相邻的计算节点之间流动时,能够直接进行乘加运算,而不需要像传统通用芯片那样,频繁地将中间计算结果读写回中央寄存器文件。这种“在流动中计算”的方式,大幅减少了片内的数据搬运距离,进而显著压低了芯片运行时的功耗。
其次,为了解决内存带宽瓶颈,Jalapeño 在计算芯片周围环绕了 6 颗高带宽内存(HBM3/HBM4)模块,这些内存由三星和 SK 海力士提供。
然而,将这些高性能积木拼装在一起,靠传统的封装工艺远远不够。需要依靠博通最先进的 3.5D 面对面(Face-to-Face,简称 F2F)垂直硅堆叠技术,并结合了 2.5D CoWoS 封装。
在传统的垂直堆叠中,芯片多采用“面对背(Face-to-Back)”的形式。而博通主导的 F2F 技术,是将计算逻辑层与内存接口层直接以“面对面”的物理方向紧密咬合。这种设计带来了极强的物理红利:
信号密度提升 7 倍:由于接口层直接面对面贴合,裸片之间的连接通路被极度拓宽,信号传输密度达到传统面对背封装的约 7 倍;
接口功耗降低 90%:极大地压缩了电子在片内传输的物理距离,使 Die-to-Die 接口的功耗直接缩减到原来的十分之一。
此外,在主计算核心和 I/O 芯片外侧,Jalapeño 还在封装内放置了 2 颗结构性的哑晶片。
大模型在处理交互推理任务时,负载常常呈现极端的波动,这会导致芯片在极短时间内面临剧烈的冷热交替循环。这两颗 Dummy Die 没有任何计算功能,其唯一的作用是作为物理缓冲,吸收并平衡封装体内部的机械应力和热应力,防止巨型基板由于热胀冷缩不均而发生物理变形。
通过在计算、内存接口与封装形态上的联合调优,Jalapeño 绕过了通用 GPU 臃肿的硬件包袱,在早期测试中实现了显著优于行业主流加速器的单位功耗效率,其实际硬件利用率也远比通用加速器更接近理论峰值。
这样一颗在物理规格上逼近极限、封装工艺极度复杂的专用芯片,其设计和验证流程通常需要 2 年时间。但这颗芯片却在短短 9 个月 内就完成了从最初设计到流片(Tape-out)。
这背后,是 OpenAI 在半导体设计方法论的创新。
四、AI for Science:大模型加速,9 个月搞定芯片
在先进半导体开发领域,从最初的架构定义到最终流片,行业公认的研发周期通常在 18 到 24 个月之间。
然而,OpenAI 与博通联合开发的自研芯片 Jalapeño,从启动设计到完成流片仅用了 9 个月的时间。这一开发进度的压缩,很大程度上得益于 OpenAI 将自己的大模型引入了芯片的设计与验证流程。
OpenAI 硬件项目主管 Richard Ho 在新思科技高管论坛上介绍了背后的工程细节。Ho 指出,硬件 AI 智能体的工作方式并不是像软件 Copilot 那样跑一个“写代码、编译、测试”的简单线性循环,而是作为工具来成倍提升人类工程师的系统效率。
物理设计中最消耗人力的环节是时序收敛和面积优化。传统的做法是,当编译工具报错或显示时序违规时,人类工程师需要手动阅读数 GB 的日志文件,定位信号冲突,然后重写约束脚本提交重新编译,这往往需要耗费数十人的团队数周甚至数月的时间。
而 OpenAI 团队的实际应用方法是:
夜间并发验证:在每天下班后的夜间,团队在云端自动部署成百上千个特定领域的软件智能体并发运行;
闭环调试:这些智能体自主读取 EDA工具吐出的海量报错日志,定位 Bug,并利用模型自身的推理和代码生成能力,自动重写约束脚本或微调工具链流与设计参数;
自动化迭代:智能体在后台不断重复“报错-自动 Debug-重新运行”的循环,利用夜间无人值守的计算资源完成数千次收敛尝试。
这种“用大模型辅助设计未来硬件”的递归方式,缩短了软件需求与硬件物理落地之间的时间差。在实验室中运行 GPT-5.3-Codex-Spark 推理负载的 Jalapeño 工程样片,其硬件底层正是由其前代模型参与设计并完成时序收敛的。
然而,半导体行业的客观物理规律依然无法被软件算法完全替代。
九个月完成流片,并不等于九个月就能拿到可交付的产品。
流片成功仅意味着设计图纸在理论上通过了验证并送往晶圆厂,在这之后,OpenAI 依然要面对三个无法投机取巧的工业化大关:
芯片调试(Bring-up)与验证:拿到物理样片后,必须在高强度的实验室测试中确保其在目标工作电压和频率下稳定运行;
良率爬坡(Yield Ramp):由于 Jalapeño 采用的是面积高达 840 mm² 左右的超大单晶片,在制造初期良率极低,需要长期与台积电微调工艺以提高量产可行性;
系统与软件栈适配(Software Maturation):要将芯片组装成定制刀片服务器并滑入高密度的液冷机架,同时还要开发出能让 PyTorch 等前沿算法框架无缝运行的编译器,其复杂度不亚于设计芯片本体。
因此,九个月的流片期证明了 AI 智能体可以大幅压缩硬件的前期设计周期,但 Jalapeño 是否能如期在 2026 年底顺利进入数据中心进行千兆瓦级的部署,依然有待真实物理世界的量产与系统集成检验。
五、Jalapeño 的落地路径,单颗芯片的物理优化只是起点。
在千兆瓦乃至吉瓦级别的数据中心内,成百上千颗处理器如何协同工作,才是决定大模型实际运行成本和延迟的决定性因素。
为此,OpenAI 在网络连接的选择上,OpenAI 的自研机架绕过了英伟达独占且价格昂贵的 InfiniBand 方案,转而使用以太网进行机架级与集群级的规模扩展。
这个网络架构主要依赖博通的以太网通信产品。在 Jalapeño 集群中,博通的 Tomahawk 6 交换芯片扮演了核心角色。该芯片的单芯片交换能力达到 102.4 Tb/s,每个端口可处理最高 1.6 Tb/s 的高速流量,并内置了硬件级拥塞管理引擎。
对于混合专家模型或多卡并行推理这类对尾延迟敏感的负载,这个引擎能够动态重构数据包路径,缓解局部网络拥堵,从而保障大规模集群的整体运转效率。
同时,博通配套的 SUE-Lite(Scale-Up Ethernet) 协议和 Thor Ultra 800G 智能网卡,也为大模型推理提供了高带宽、低时延的统一以太网物理层支持。
在系统集成层面,OpenAI 引入了加拿大电子制造巨头 Celestica。Celestica 根据 OpenAI 的规格,将 Jalapeño 芯片组装成定制的服务器刀片,并插入专门设计的高密度液冷数据中心机架中。这种软硬一体的集成方式,使得整个系统的散热、配电与计算密度在物理空间上达到了更好的平衡。
Jalapeño 的出现并不意味着 OpenAI 准备与英伟达等芯片巨头分道扬镳。OpenAI 在推进自研的同时,采用了一套双轨制采购框架,以在不同的计算负载中平衡灵活性与成本:
训练轨(通用 GPU 主导):前沿大模型的训练算法仍处于快速迭代中,在这一高灵活性要求的场景下,通用 GPU 依然不可替代。为此,OpenAI 维持了与英伟达的合作,Securing 锁定了总计 10 吉瓦的算力资源,该平台由英伟达下一代 Vera Rubin 架构驱动,并配套了来自英伟达 300 亿美元 的投资承诺。同时,OpenAI 还保留了与 AMD、亚马逊 AWS 以及 Cerebras 的合作,以确保训练算力的多源供应。
推理轨(自研芯片主导):对于已经定型、面向数亿用户提供日常交互的高频静态模型(如 ChatGPT 基础对话及 Codex 编程助手)。通过将这部分高吞吐、低延迟的常规推理负载全面迁移至自研的 Jalapeño ASIC 上,OpenAI 的长期战略目标是将这部分日常运营成本降低至原有通用 GPU 模式的一半左右。
在技术路径与供应链的客观制约下,Jalapeño 的实际量产和部署表现仍需时间来证明。但这颗芯片在设计与验证流程上的突破,已经为 OpenAI 在硅片层面积累了宝贵的软硬件协同经验。
这种试图从底层物理架构去解决算力与成本瓶颈的尝试,并非 OpenAI 的孤军自救,而是大模型公司在物理规律面前做出的共同选择。当第一批定制服务器开始滑入数据中心的冷通道,它所拉开的,实际上是一场更深层次、也更为持久的行业变局。
结语
Jalapeño 的成功流片并不是这个自研故事的重点,属于大模型公司自己的自研芯片时代已经正式拉开序幕。
未来 AI 公司之间的竞争,将不再仅仅局限于模型跑分和算法性能的单一维度,底层的物理硬件与算力基础设施效率,正在成为决定胜负的另一个关键手。
随着大模型技术在应用层的深入,如何以更低的单位能耗、更经济的 Token 去交付智能,将直接决定一家公司的商业生存空间与竞争壁垒。
当模型开发者开始亲手为大模型定制硅片,AI 产业也随之迈入了一个软件与硬件深度耦合、共同进化的全新时代。
免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。


