SemiAnalysis 实测 OpenAI 自研推理芯片 Jalapeño:每兆瓦吞吐超过 Blackwell
SemiAnalysis 在 OpenAI 实验室用 InferenceX 实测了 OpenAI 自研推理 ASIC Jalapeño,称其在多个开源模型上的每兆瓦 token 吞吐超过 NVIDIA Blackwell,且在 DeepSeek R1 上并发 1 时达到每用户 700 tokens/s 以上,全程未使用投机解码。该芯片由 OpenAI 与 Broadcom 合作、2024 年中启动设计,2025 年 11 月完成 CoWoS 流片,采用 HBM4、单封装 15.4TB/s 带宽,架构上不做 prefill 与 decode 分离,用统一芯片池应对变化的负载比例。文章认为更公平的对手是同样使用 HBM4 的 Rubin,两者每美元输出 token 数接近,但 Jalapeño 尚未启用投机解码,量产计划从 2027 年起逐步爬坡。
#行业动态#端侧#部署/工程



