OpenAIのJalapeñoチップ、Nvidiaの最上位品より3.6倍低レイテンシを主張 ― ただし代替にはならない
OpenAIのJalapeñoチップは、推論ベンチマークでNvidia GB200/GB300スーパーチップより最大3.6倍低いレイテンシを達成。モデル展開の効率化に向けた垂直統合へのシフトを示している。
OpenAIは、AI推論用にBroadcomと設計したJalapeño ASICが、内部テストにおいてNVIDIAのGB200およびGB300スーパーチップを大幅に上回ると主張している。結果は、DeepSeek R1やKimi K2.5 1Tなどのモデルで、1ワットあたりのAI処理量が1.5〜1.9倍多く、レイテンシが1.7〜3.6倍低いことを示している。2026年後半に少量の展開が始まり、2027年を通じて大幅に拡大する予定だ。ハードウェア担当VPのRichard Ho氏は、Jalapeñoは通常はトレードオフを必要とするレイテンシとスループットのバランスを提供すると強調したが、OpenAIは、エコシステム全体を置き換えるのではなく、引き続きNVIDIAチップを使用していく方針だ。