摘要:8月25日OpenAI在Hot Chips大会公布首款自研推理芯片Jalapeño首批测试结果:在SemiAnalysis InferenceX基准测试中,每瓦AI工作量达英伟达GB200/GB300的1.5-1.9倍,端到端延迟降低1.7-3.6倍,高交互负载性能提升2.1-4.1倍。这款与博通联合设计的700W芯片标志着OpenAI全栈优势正式延伸至硬件层。
事件概述:辣椒芯片的火辣首秀
8月25日,OpenAI在Hot Chips 2026大会上正式公布了其首款自研推理芯片Jalapeño(墨西哥辣椒)的首批测试结果。这款由OpenAI与博通(Broadcom)联合设计的专用AI推理芯片,额定功耗700W,实测持续功耗550W以下,专为大语言模型推理 workload 优化。在半导体研究公司SemiAnalysis开发的公共基准测试工具InferenceX中,Jalapeño交出了一份令业界震惊的成绩单。
测试覆盖了三款不同规模的大模型:GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T。在所有三款模型上,Jalapeño均实现了1.5至1.9倍的每瓦AI工作量提升,端到端延迟降低1.7至3.6倍。在高度交互的工作负载场景下,性能提升更是达到了2.1至4.1倍。以单用户Token处理量为例,Jalapeño每秒可输出1459个Token,而英伟达GB200仅为535个,差距接近3倍。OpenAI宣布,Jalapeño将于2026年底开始小批量交付,2027年大规模扩展部署。
背景分析:OpenAI为什么要自己造芯片
OpenAI自研芯片的决策并非偶然,而是基于三重战略考量。第一是成本控制的迫切需求。随着ChatGPT用户量和API调用量的爆炸式增长,OpenAI每年在英伟达GPU上的采购和租赁费用高达数百亿美元。自研专用推理芯片可以将推理成本降低一个数量级,这对于实现盈利至关重要。Jalapeño的1.5-1.9倍能效比提升,意味着同样的电力预算下可以处理1.5-1.9倍的推理请求,直接转化为成本的大幅下降。
第二是全栈优化的技术优势。OpenAI在官方博文中明确指出,Jalapeño是其"全栈优势"的证据——OpenAI可以同时设计模型、产品、服务软件、芯片、内存和网络,实现从算法到硬件的协同优化。通用GPU(如英伟达H100/B200)为了兼顾训练和各种推理场景,在架构上必然存在妥协。而Jalapeño作为专用推理芯片,可以针对OpenAI自家模型的计算特征进行深度定制,在内存带宽、张量计算、调度逻辑等方面实现最优匹配。这种"模型-芯片协同设计"的思路,与谷歌TPU、亚马逊Trainium/Inferentia的路径一脉相承。
第三是供应链安全的战略考量。过度依赖单一供应商(英伟达)存在供应链风险,尤其是在全球芯片产能紧张的背景下。通过自研芯片,OpenAI可以减少对英伟达的依赖,增强供应链的韧性和议价能力。同时,与博通的合作也为OpenAI提供了一条不同于英伟达的芯片制造路径。
影响解读:AI硬件格局的地震
Jalapeño的发布将对AI硬件格局产生深远影响。首先,英伟达的垄断地位面临实质性挑战。虽然英伟达在AI训练芯片市场仍占据绝对主导,但推理市场的竞争格局正在快速变化。OpenAI作为全球最大的AI推理需求方之一,选择自研芯片意味着英伟达将失去一个超级大客户的增量订单。更重要的是,Jalapeño的能效比数据表明,专用推理芯片在特定场景下确实可以显著超越通用GPU,这将鼓励更多云厂商和AI公司加大自研芯片的投入。
其次,AI芯片市场将加速分化为"训练"和"推理"两个赛道。训练芯片追求极致算力和互联带宽,英伟达的地位短期内难以撼动;而推理芯片追求能效比、低延迟和低成本,专用芯片(如Google TPU、AWS Inferentia、OpenAI Jalapeño)正在展现出更强的竞争力。预计未来2-3年,推理芯片市场将出现更多玩家,价格竞争将更加激烈。
第三,对AI应用开发者而言,推理成本有望进一步下降。OpenAI自研芯片的降本效应最终将传导到API价格上。随着Jalapeño在2027年大规模部署,OpenAI有能力进一步降低API调用价格,这将刺激更多AI应用的开发和落地。对于整个AI生态而言,更低的推理成本意味着更多创新应用的商业化可行性。
然而,也需要看到Jalapeño的局限性。作为专用推理芯片,它无法用于模型训练,OpenAI在训练侧仍需依赖英伟达。此外,自研芯片的研发和量产需要巨大的资金投入和时间周期,Jalapeño要到2027年才能大规模部署,短期内英伟达的市场地位不会受到根本动摇。
未来展望:全栈AI公司的时代
Jalapeño的发布标志着AI行业正在进入"全栈竞争"的新时代。领先的AI公司不再满足于只做模型和应用,而是向芯片、系统、网络等底层基础设施延伸。OpenAI、Google、Amazon、Meta等巨头都在构建自己的全栈AI能力,这种趋势将重塑整个AI产业的竞争格局。
对于行业观察者而言,未来12-18个月有几个关键观察点:一是Jalapeño的实际量产进度和良率表现;二是OpenAI是否会将Jalapeño的算力对外出售(类似AWS的自研芯片云服务);三是其他AI公司(如Anthropic、xAI)是否会跟进自研芯片;四是英伟达将如何应对推理芯片市场的竞争压力,是否会推出更具性价比的专用推理产品。
对于企业用户和开发者而言,Jalapeño的发布传递了一个明确信号:AI推理成本将持续下降,现在是布局AI应用的最佳时机。建议关注OpenAI API价格的后续变化,以及多模型混合部署策略的优化空间。



