每秒狂吐1459个Token、完成一次任务只要1.65秒，功耗还不到对手一半——OpenAI首颗自研芯片Jalapeño（墨西哥辣椒），在8月25日放出的首批实测成绩单里，直接把英伟达GB200和GB300推到了风口浪尖。
一份刷新认知的跑分
这次测试由OpenAI在第三方机构SemiAnalysis的InferenceX基准套件上完成，对比对象是英伟达GB200和GB300机架系统，测试模型覆盖OpenAI自家的GPT-OSS 120B、DeepSeek R1 670B以及月之暗面的万亿参数模型Kimi K2.5。
结果相当惊人。在最佳运行状态下，Jalapeño的混合Token峰值吞吐量比竞品高出1.5倍到1.9倍；每秒解码吞吐最高领先2.7倍到3.8倍；在最考验极限的交互速度点上，它的吞吐量甚至是GB300的104.3倍。端到端延迟方面，Jalapeño跑完一个任务只要1.65秒，而GB300需要约5.99秒，差距接近3.6倍。
更值得注意的是能效。Jalapeño的标称功耗为700瓦，GB300则是1400瓦，整整差了一半。如果算上供电、散热和网络，再摊到每颗芯片头上，Jalapeño每颗约1.125千瓦，GB200为1.87千瓦，Vera Rubin则高达3.3千瓦。在这个口径下运行GPT-OSS，Jalapeño每兆瓦每秒可吐出约5300万个Token，而GB200 NVL72只有约1000万个。
9个月流片的”辣椒”
Jalapeño是OpenAI在今年6月正式发布、专为当前及未来大模型推理任务从零设计的专用集成电路，主要覆盖ChatGPT、Codex和OpenAI的API应用。从项目启动到流片，它只用了9个月，被称作高性能ASIC领域最快的开发周期之一，背后是与博通的深度软硬件协同，以及OpenAI用自研模型加速了部分设计优化。
在Hot Chips 2026大会上，OpenAI透露了更多细节：Jalapeño为减少数据移动和通信延迟，配备了6颗HBM4内存，总容量216GB，额定功率700瓦。OpenAI计划以128颗芯片为一组机架部署，可实现1.7 Exaflops的4bit计算能力，配备27.5TB的HBM4内存，每个封装提供15.4TBps内存带宽；一个完整Pod则由2048颗芯片组成。
一个架构同时优化吞吐与延迟
传统硬件往往需要在吞吐量和延迟之间做取舍：大规模批处理能提升整体效率，却可能增加单次请求的等待时间；追求极低延迟，又可能牺牲资源利用率。Jalapeño的目标，是在一个架构里同时优化两者——既让单位时间处理更多请求，又让用户更快得到响应。
测试还特意加入了DeepSeek R1和Kimi K2.5这样的第三方模型，说明Jalapeño并非只针对OpenAI自家模型优化，而是能适配不同的大模型工作负载。有半导体分析师直言，被掀翻的不只是Blackwell，连英伟达Rubin芯片也被超越了。
从软件到硬件的垂直整合
Jalapeño的意义远不止一块芯片。它标志着OpenAI正在打通”模型—软件—芯片—数据中心”的一整条链路：训练阶段让模型学会能力，推理阶段让模型快速回答用户请求，而Jalapeño解决的就是后者。当模型、软件和芯片都由一家公司掌控，成本、速度和迭代节奏都能掌握在自己手里。
当然，这只是首轮实测数据，测试场景和具体配置仍有讨论空间，真实落地效果还要等它2026年底正式部署后见分晓。但可以确定的是，AI推理芯片的竞争，已经从英伟达的独角戏，变成了多极对撞的赛场。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
