OpenAI 自研芯片 Jalapeno 完整架构公布,博通联合开发台积电 3nm,推理能效超英伟达 GB300

微信扫一扫,分享到朋友圈

OpenAI 自研芯片 Jalapeno 完整架构公布,博通联合开发台积电 3nm,推理能效超英伟达 GB300

9 月 13 日,在斯坦福举办的 Hot Chips 2026 大会上,OpenAI 硬件副总裁 Richard Ho 亲自主讲,公布了自研 AI 推理芯片 Jalapeno 的完整架构。

Jalapeno 由 OpenAI 与博通联合开发,台积电以 N3P 工艺代工,从架构设计到流片仅用约 9 个月,对比行业一般 18-24 个月的流片周期几乎腰斩。Jalapeno 配备 6 颗 HBM4 内存堆叠,总容量 216GB,单封装内存带宽达 15.4TB/s,额定功率 700W,单颗芯片 FP4 算力 13.4 PFLOPS。两大关键设计:”权重驻留脉动阵列” 将模型参数固定在芯片上,输入数据流过阵列而非来回搬运;”切片式内存架构” 使每个核心切片能低延迟访问自己的显存。每瓦 HBM 带宽达 22,而英伟达 Rubin 为 11.1、GB300 仅为 5.71;HBM4 引脚速度达 10Gbps,略高于英伟达 Rubin 的 9.6Gbps,HBM 供应商可能为三星。Jalapeno 的 prefill(处理输入)和 decode(逐 token 生成)由同一颗加速器完成,而非像英伟达 Rubin 那样拆给专用 CPX 芯片。

OpenAI 此前表示 Jalapeno 相比典型 AI GPU 展现约 50% 的成本降低,设计目标明确不追求纸面算力,力求 ChatGPT 和 API 用户更快响应速度。OpenAI 与博通去年 10 月公布 10GW 多代自研加速器合作计划,目标 2026 年下半年开始部署到 2029 年底完成,OpenAI 将成为 HBM4 市场重要买家。

核心看点:OpenAI Jalapeno 完整架构公布是 AI 芯片里程碑,博通联合开发 + 台积电 N3P 9 个月流片速度惊人,6 颗 HBM4 216GB+15.4TB/s 带宽 + 700W,每瓦 HBM 带宽 22 远超 Rubin 11.1 和 GB300 5.71,权重驻留 + 切片内存两大创新设计,prefill/decode 同一颗完成对比 Rubin 拆分 CPX,推理成本降低 50% 不追算力追响应速度,10GW 多代合作 2026 下半年部署 2029 完成,大模型公司自研芯片进入实战阶段,对英伟达推理市场形成直接竞争,HBM4 供应商可能为三星利好存储。

所有的伟大,都源于一个勇敢的开始!
上一篇

从“听得清”到“用得顺”:猛玛打开AI语音办公新场景

下一篇

AI 三巨头罕见联手呼吁放缓前沿模型开发,芯片股暗盘集体跳水,OpenAI 宣布不 IPO

你也可能喜欢

评论已经被关闭。

插入图片
微信 微信
微信
返回顶部

微信扫一扫

微信扫一扫