OpenAI自研AI芯片干翻GB300：吞吐量狂飙104倍！

在备受关注的Hot Chips 2026大会上，OpenAI公布了其首款自研AI推理芯片“Jalapeño”（墨西哥辣椒）的首批独立基准测试结果。

数据显示，这款与博通（Broadcom）联合开发、功耗仅700W的专用集成电路（ASIC），在多项关键指标上大幅超越了英伟达（Nvidia）功耗高达1400W的GB300旗舰系统，为AI推理市场带来了新的变数。

能效与延迟领先，推理吞吐量大幅提升

Jalapeño是OpenAI在今年6月正式发布的一款专为当前及未来大语言模型（LLM）推理任务而从零开始设计的专用集成电路（ASIC）。主要涵盖ChatGPT、Codex和OpenAI的API应用。

据介绍，从项目启动到制造流片（Tape-out），Jalapeño仅用时9个月，号称是高性能ASIC领域最快的开发周期之一。这一速度得益于OpenAI工程团队与博通的深度软硬件协同，以及利用OpenAI自研的AI模型加速了部分设计与优化工作。

不过，当时OpenAI并未公布Jalapeño的具体参数，仅表示Jalapeño相比典型AI GPU展现出约50%的成本降低。

在本次Hot Chips 2026大会上，OpenAI透露，Jalapeño为减少数据移动和通信延迟，配备了6颗HBM4内存，总容量216 GB，该处理器额定功率为 700 瓦。

OpenAI计划以128颗Jalapeño芯片为一组机架进行部署，可实现 1.7 Exaflops 的 4bit计算能力，并配备 27.5TB 的 HBM4 内存，每个封装提供 15.4TBps 的内存带宽。而“一个完整 Pod 则由 2,048 颗Jalapeño芯片组成”。

最新的针对Jalapeño的测试由OpenAI在第三方机构SemiAnalysis的InferenceX基准套件上完成，对比对象为英伟达GB200和GB300机架系统。测试模型涵盖OpenAI的GPT-OSS 120B、DeepSeek R1以及月之暗面（Moonshot AI）的万亿参数模型Kimi K2.5。

从核心数据表现来看，在最佳运行状态下的混合Token峰值吞吐量，Jalapeño比竞品高出1.5倍至1.9倍。

在每用户峰值解码吞吐量性能上，Jalapeño比竞品高出2.7倍至3.8倍。

在最考验芯片极限的交互速度点上，Jalapeño的吞吐量可达英伟达GB300的104.3倍。

Jalapeño的端到端延迟（End-to-end latency）降低了1.7倍至3.6倍；在极端低延迟场景下，性能提升高达2.1倍至4.1倍。

若计算每加速器的全部实用电力（utility power），Jalapeño为1.18kW，GB300为2.55kW。

“在我们尝试的这三种模型上，我们证明了该架构不仅适用于内部模型，也适用于其他模型，这是一款通用且非常灵活的加速器。”OpenAI硬件负责人理查德·何（Richard Ho）说，“Jalapeño能用更少的电力完成更多的AI工作，同时响应更快。它能高效服务大量客户，也能实现极低延迟。”

SemiAnalysis给出了极高的评价，称其“击败了我们测试过的每一款英伟达、AMD和谷歌芯片”。

需要指出的是，虽然Jalapeño额定功率为 700 瓦，但在所测试的工作负载下，芯片实测持续功耗保持在 550W 或以下。

OpenAI仍依赖英伟达

尽管Jalapeño在特定模型下的推理性能击败了英伟达的旗舰AI芯片，但双方的合作关系依然紧密。值得注意的是，Jalapeño并未与英伟达最新的Vera Rubin平台进行对比，且其无法用于模型训练，而训练正是英伟达的强势领域。

更微妙的是，就在一周前（8月17日），英伟达刚同意为OpenAI在俄亥俄州的数据中心园区提供高达1050亿美元的融资支持。Richard Ho也明确表示：“英伟达是很好的合作伙伴，我们依然需要大量英伟达芯片。”

“这是我们整体计算战略的一部分，该战略还包括我们非常优秀的合作伙伴英伟达、Cerebras 等，”Richard Ho在本次Hot Chips 2026大会上说，“我们有大量的计算需求，不可能仅靠一次尝试就满足。”

OpenAI正按多代路线图推进芯片计划。第二代芯片即将流片，第三代已在概念设计中。Jalapeño将于2026年底小规模部署，2027年扩大规模。作为OpenAI“全栈战略”的关键一步，它彰显了其摆脱单一供应商依赖、自建底层算力基础设施的决心。

当被问及 OpenAI 是否会将其芯片出售给其他公司时，Richard Ho表示：“OpenAI 内部有大量的计算需求，满足这些需求需要大量的算力，我们目前还难以获得足够的芯片。”

分析人士指出，Jalapeño的大规模部署计划可能受制于HBM内存供应。目前三星、SK海力士、美光的HBM产能已基本预售至2027年，SK海力士CEO更是警告2027年将是供应最紧张的一年。若OpenAI无法取得足够的HBM4供应，其产能爬坡将面临限制。

编辑：芯智讯-浪客剑