OpenAI Jalapeño 晶片據稱在推理基準測試中擊敗輝達 Blackwell 和 Rubin
openai 的首款自研推理晶片 "jalapeño" 據稱能效比輝達 blackwell 和 rubin 高出 1.5-1.9 倍,延遲降低 3.6 倍,這可能標誌著輝達 "cuda 護城河" 的終結。
OpenAI 在 Hot Chips 大會上發布了其首款自家推理晶片「Jalapeño」,聲稱該晶片在每瓦吞吐量和延遲方面超越了 NVIDIA 的 Blackwell 和 Rubin。該晶片與 Broadcom 合作,在短短九個月內使用 OpenAI 自有的模型進行設計和優化,內部測試結果顯示,在 GPT-OSS 120B 上可達 1,400 個 token 每秒,在 DeepSeek R1 670B 上可達 700 TPS。雖然該晶片在未使用推測解碼的情況下表現出顯著的性能優勢,但目前僅為工程樣品,而 Rubin 系統已經開始向客戶出貨。