美东 8/25,OpenAI 在 Hot Chips 大会交出首颗自研推理芯片 Jalapeño(墨西哥辣椒)的首批实测成绩单;次日(北京 8/26)奥特曼在 X 上官宣:「我们造了一颗芯片,它速度很快。」这颗芯片面向 大语言模型推理 + 交互式智能体设计,在吞吐、能效、延迟三项指标上对标并反超英伟达当前最先进的 GB300(OpenAI 芯片业务负责人 Richard Ho 确认参照对象为 GB300)。澎湃新闻 · 经济观察网
为什么值得关注:这不是一次普通的芯片发布——它是「OpenAI 从模型公司转向同时设计基础设施」的标志性事件,也是 AI 算力链格局变化的信号:推理芯片开始有英伟达之外的第二极,且直接牵动 HBM4(存储) 与 自研芯片 两条产业链。
测试采用 SemiAnalysis 的 InferenceX 公开基准,覆盖 GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1T 三款公开模型,与英伟达 GB200 / GB300 系统对比:网易·问芯
| 指标 | Jalapeño | 对比系统 | 倍数 |
|---|---|---|---|
| 每瓦峰值吞吐 | — | GB200 / GB300 | 1.5-1.9× |
| 端到端生成延迟 | 更低 | GB200 / GB300 | 降低 1.7-3.6× |
| 高度交互式负载 | — | GB200 / GB300 | 2.1-4.1× |
| 单用户出词速度 | 1459 token/s | GB200 535 token/s | 约 2.7× |
| 同一任务耗时 | 1.65 秒 | GB300 5.99 秒 | 约 3.6× |
| 功耗 | 标称 700W / 实测 ≤550W | 对比系统 1400W | 约一半 |
具体:GPT-OSS 120B 上每千瓦约 8.54 万 token/s(GB200 约 4.5 万,约 1.9×);Kimi K2.5 1T(测试中最大公开模型)上每瓦峰值 1.5×、端到端延迟降 3.4×。性能提升源于围绕真实语言模型负载协同设计芯片、内存、网络、软件及机架级系统,让 KV cache 尽量保持本地、每个推理阶段激活恰当的计算/内存/网络组合。
| 项目 | 数据 |
|---|---|
| 主计算 die | 约 840 mm²(距 EUV 掩模版极限 858 mm² 仅差 18 mm²) |
| HBM | 6 颗 HBM4 · 共 216 GiB · 15.4 TB/s |
| 每瓦 HBM 带宽 | 22(Rubin 11.1 / GB300 5.71) |
| TCO(SemiAnalysis 估算) | 1.56 美元/芯片/小时(H100 1.55 / Vera Rubin 3.61) |
| 分工 | OpenAI 架构 + 博通(实现/网络/连接)+ Celestica(板卡/机架/系统) |
| 合作背景 | 去年 10 月与博通签下 10GW 定制加速器大单 |
从设计到流片,Jalapeño 只用 9 个月(行业常见周期 18-36 个月)。秘诀是把自家最强模型 GPT-Astra(外界传闻的 GPT-6)和 Codex 请进流片室做 AI 辅助设计:经济观察网
关键定位:Jalapeño 不用于训练新模型——OpenAI 明确「模型训练仍高度依赖英伟达等供应商」,「我们需要大量算力」。这颗芯片解决的是推理与智能体响应:澎湃新闻
推理 vs 训练:智能体任务会连续发多个请求,小延迟会被放大。Jalapeño 同时压低「处理请求」和「生成响应」两个阶段的延迟,正是为智能体场景设计。它是补充而非替代英伟达——训练和部分推理仍继续用英伟达及其他伙伴的加速器。
SemiAnalysis 在一份文档中称:「在我们测试过的所有 Nvidia、AMD 和 Google 芯片上,OpenAI 在多个顶级开源模型上的表现都优于它们。」著名半导体分析师 Dylan Patel 更直接:「被掀翻的不只是 Blackwell,就连英伟达 Rubin 芯片也被超越了。」经济观察网
SemiAnalysis 顺势给出一个惊人判断:「CUDA 的护城河可能已经死了。」——当推理负载可以从英伟达栈上「平移」到自研/开源推理栈,软件生态壁垒被第一次实质性松动。理性看待:这是推理侧的挑战,训练侧英伟达地位短期仍稳固;且 GB300 是「现行商用」对标,Vera Rubin 尚未大规模放量。
对存储链的直接意义(呼应 8/26 盘后复盘):Jalapeño 用 6 颗 HBM4(216 GiB),每瓦 HBM 带宽 22 是 GB300 的近 4 倍——HBM4 需求继续放大,与今日大摩/高盛上调 WFE、DRAM 供给紧张延续至 2028 的判断同向。存储涨价叙事再添一个需求侧佐证。
OpenAI 用 9 个月造出第一颗「为智能体而生」的推理芯片,推理侧「英伟达独大」格局开始松动;HBM4 需求再添一票,存储链景气叙事延续。这颗芯片 2026 年底才部署、2027 年才量产,短期不影响英伟达财报(今晚凌晨公布)与算力链定价,但它是「算力自主化」这条长期主线的关键一步。
· 澎湃新闻:OpenAI推出首款芯片:为智能体设计,速度更快功耗更低(2026-08-26)
· 经济观察网·格隆汇:背刺英伟达?OpenAI甩出新"武器"(2026-08-26)
· 网易·问芯:OpenAI公布首颗自研推理芯片成绩,下一代已进入制造阶段(2026-08-26)
· 网易·财联社:OpenAI自研芯片取得关键突破:响应速度、能效表现击败英伟达GB300(2026-08-26)
注:性能数据均来自 OpenAI 官方公布 + SemiAnalysis InferenceX 基准,为厂商自测口径,非独立第三方复测;TCO 为 SemiAnalysis 估算。