OpenAI于8月25日通过官方博客和Hot Chips会议公布其自研AI芯片Jalapeño的首批基准测试结果,称该芯片在推理任务中的能效和响应速度均优于英伟达GB200/GB300超级芯片,并计划于2026年底小规模部署。
据The Verge和TechCrunch报道,Jalapeño是一款面向AI推理的专用集成电路(ASIC),由OpenAI与博通合作开发。测试基于Semianalysis的InferenceX基准。OpenAI硬件副总裁Richard Ho表示,Jalapeño兼具低延迟和高吞吐量,而AI系统通常需要在这两者之间取舍。
具体数据显示,在GPT-OSS 120B、DeepSeek R1和Kimi K2.5 1T三个模型上,Jalapeño每瓦特完成的工作量是对比系统的1.5至1.9倍,端到端延迟低1.7至3.6倍。Ho称,这意味着用户可以获得更快的响应、更灵敏的智能体以及更可靠的访问。
技术设计方面,OpenAI在博客中称,Jalapeño旨在减少推理过程中预填充和通信阶段的瓶颈,最小化数据移动和通信延迟,使模型状态(包括生成响应时使用的KV缓存)能够被明确放置在本地。
部署计划上,OpenAI拟在2026年底以“非常小规模”部署Jalapeño,2027年加大部署力度。公司未透露明年计划部署的芯片数量。Ho表示,由于整体计算策略包括英伟达等合作伙伴,公司不打算用Jalapeño完全替代现有芯片,并将继续开发第二和第三代产品。
关于芯片首次亮相时间,The Verge称Jalapeño于今年6月推出,而TechCrunch则称其于去年10月首次公布。两篇报道均确认,芯片由OpenAI与博通合作开发,OpenAI自己的模型参与了设计过程。OpenAI计划将Jalapeño打造成多代际平台,使AI产品、模型、芯片和内存协同开发。