据量子位报道,OpenAI自研芯片「小辣椒」在半导体研究机构SemiAnalysis的实测中,性能超越英伟达最强加速卡Blackwell。该芯片热设计功耗仅700W,每千瓦推理吞吐最高达到英伟达GB200 NVL72机架系统的1.9倍,端到端推理时延最低低出3.6倍。消息公布后,英伟达股价不跌反涨2.19%。

8月25日,OpenAI在Hot Chips 2026大会上公开了这颗与博通合作、专为推理打造的第一代自研芯片。设计于2024年年中启动,从组队到流片只用约16个月,2025年11月完成流片,芯片点亮用了3个月,9个月拿出A0步进成绩。SemiAnalysis受邀带着InferenceX基准套件到OpenAI实验室实测,结论是这颗芯片在低延迟、高吞吐、低并发等几乎所有场景下都能击败Blackwell,达到SOTA级别。

实测中,小辣椒在GPT-OSS 120B、DeepSeek R1 670B和月之暗面Kimi K2.5(1万亿参数)三个开源模型上跑分。低并发下,GPT-OSS和Kimi K2.5达到约1400 token每秒每用户,DeepSeek R1在并发1时超过700 token每秒每用户。每千瓦推理吞吐为GB200 NVL72、GB300 NVL72机架系统的1.5到1.9倍,端到端推理时延比英伟达记录的最佳成绩低1.7到3.6倍,超低时延场景快2.1到4.1倍。在GB300最快输出速度设置下,每千瓦吞吐最高高出8.6到104.3倍。GSM8k评测结果与英伟达芯片持平。

需要说明的是,以上成绩均基于单token预测,没有推测解码和prefill、decode分离,对比的Blackwell成绩则开了多token预测。SemiAnalysis称,如果与开多token预测的GB300对比,峰值能效优势会缩到约1.5倍。跑分数字由OpenAI提供,团队现场验证了跑分过程,但没有跑完整套件,也未测试更接近真实生产负载的AgentX。SemiAnalysis认为,小辣椒真正要对标的是使用HBM4的下一代Vera Rubin,后者已开始向客户出货,而小辣椒还只有工程样品。即使直接对比Rubin,小辣椒的单token预测每兆瓦输出吞吐仍超过英伟达和CoreWeave在7月公布的多token预测成绩。Rubin的成绩中使用了推测解码,而小辣椒尚未使用,补上后成本优势会更大。

规格方面,第二版B0步进已进厂流片,采用台积电N3P工艺的单计算die,配N3E工艺I/O chiplet,单die提供13.4 PFLOPS的MXFP4算力,TDP仅700W。内存为六组HBM4,单封装216GB容量、15.4TB/s带宽,是目前已出货或接近出货加速卡中最高的,供应商大概率是三星。软件栈用基于Triton的Gluon语言编写,设计阶段大量使用Codex、GPT-Astra辅助,SIMD单元面积缩减8%,矩阵引擎面积缩减10%。AI编写的内核部分比人类专家内核快1.5到1.8倍。OpenAI还用Codex把《毁灭战士》移植到了这颗芯片上,能跑36 FPS。

量产计划方面,工程样品已就绪,量产将在2027年逐步爬坡,大部分产出集中在2027年底,下一阶段目标是100MW规模。承载芯片的单机架系统名为Vindaloo,装128颗小辣椒,配Katsu CPU主机架和Chana交换机架,两个机架合计功耗约160kW,最多16个机架、2048颗芯片组成scale-up域。OpenAI表示不会弃用英伟达,训练仍大量使用英伟达芯片,且双方有融资担保合作,同时继续开发第二和第三代自研芯片。

就在芯片公开前后,OpenAI数据中心负责人Chris Malone被曝离职。据The Wall Street Journal 8月25日报道,彭博社随后经OpenAI发言人确认,Malone离职后没有继任者,职责拆给多位负责人。他于2025年3月加入OpenAI,负责为高速增长的算力需求建设数据中心。Malone是这波离职潮中的第4位高管,此前首席营收官Denise Dresser、首席运营官Brad Lightcap、CEO Altman的副手Fidji Simo均已离开。TheNextWeb统计,4月以来已有7位高层离任或换岗。