OpenAIのJalapeño、推論でNvidia BlackwellとRubinを上回ると報道
OpenAI初の独自推論チップ「jalapeño」は、Nvidia BlackwellおよびRubin比で1.5〜1.9倍の効率向上と3.6倍低いレイテンシを主張しており、Nvidiaの「CUDAモート(堀)」の終焉を示唆しています。
OpenAIは、Hot Chipsカンファレンスで、インハウス推論チップ「Jalapeño」を初公開し、ワット当たりのスループットとレイテンシでNVIDIAのBlackwellとRubinを上回ると主張した。このチップは、OpenAI独自のモデルを使用して設計と最適化が行われ、Broadcomとわずか9ヶ月で共同開発された。内部テストでは、GPT-OSS 120Bで1400トークン/秒、DeepSeek R1 670Bで700トークン/秒を達成した。投機的デコーディングなしで大きなパフォーマンスリードを示したが、現在はエンジニアリングサンプルとしてのみ存在し、Rubinシステムはすでに顧客に出荷されている。