上海
8月25号，OpenAI公布了首款自己研发的芯片Jalapeño的性能测试数据，这个和博通一起开发的推理专用ASIC，在能效和延迟这两个关键指标方面，比英伟达GB300要好上不少！
先看配置。Jalapeño是纯推理芯片，不做训练，从设计之初就围绕大模型推理负载优化，砍掉了通用GPU所有图形计算冗余。
台积电3nm工艺，搭配定制Arm CPU和博通Tomahawk交换芯片，配HBM4高带宽内存。标称TDP只有700W——GB300是1400W，下一代Rubin平台1800W起步。
最夸张的是开发周期，行业常规是18到36个月，但这款芯片从设计启动到流片就用了9个月！为什么能那么快？因为芯片开发全程大量采用了AI辅助设计。
OpenAI官方公布的推理性能数据：GPT-OSS 120B模型下，每瓦混合吞吐量比GB200高出1.9倍，端到端推理延迟低约1.7倍；在DeepSeek R1 670B这种大参数模型上，700W的Jalapeño也稳压1400W的GB300。
第三方半导体机构SemiAnalysis测出来的数据是，单卡推理的时候，吞吐量差不多是1459 tokens/s，GB200才535 tokens/s，差不多有2.7倍的优势，端到端任务延迟，Jalapeño就只要1.65秒，GB300得接近6秒，差距有3.6倍。
还有一个细节，Jalapeño不只是适配GPT系列，各种开源大模型都能流畅运行，甚至还能移植运行经典游戏《Doom》，这就说明它的架构有一定通用性。
OpenAI为什么要自己做芯片？答案就一个词：成本。推理占AI全生命周期算力负载的80%到90%，是最大的算力市场。Jalapeño的核心目标是把大模型推理的总体拥有成本降约50%，摆脱对通用GPU的依赖。
一颗700W的芯片干1400W的活，电费省一半，对OpenAI这种按token计费跑推理的巨头来说，省下来的钱是天文数字。
短期来看，Jalapeño今年年底才规模化部署，而且只自用不对外卖，不会抢英伟达的第三方客户。但现在谷歌、Meta、亚马逊都在推自研推理ASIC，这也足够让英伟达有些头疼了。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
