OpenAI Jalapeño 芯片延迟仅为 Nvidia 旗舰的 1/3.6 — 但它不会完全替代英伟达
openai 的 jalapeño 芯片在推理基准测试中比 nvidia gb200/gb300 超級芯片降低了最高 3.6 倍的延遲,標誌著為了提高模型部署效率,正向垂直整合轉變。
OpenAI 声称其与 Broadcom 设计的用于 AI 推理的 Jalapeño ASIC,在内部测试中明显优于 NVIDIA 的 GB200 和 GB300 SuperChips。结果显示,在 DeepSeek R1 和 Kimi K2.5 1T 等模型上,其每瓦 AI 工作量是后者的 1.5 到 1.9 倍,延迟降低 1.7 到 3.6 倍。计划于 2026 年末小批量部署,并在 2027 年实现显著扩展。硬件副总裁 Richard Ho 强调,Jalapeño 提供了通常需要权衡的延迟-吞吐量平衡,但 OpenAI 将继续使用 NVIDIA 芯片,而不是替换其整个生态系统。