OpenAIのJalapeñoチップがNvidiaを狙う
OpenAIがBroadcomと共同開発した初のカスタム推論チップ「Jalapeño」を発表。モデル実行におけるNvidia GPUへの依存を減らす転換を示す動きだ。
OpenAIは、Broadcomと共同開発した最初のカスタム推論チップであるJalapeñoを発表した。これにより、モデルの推論のワット当たりの性能が最適化される。初期のテストでは、最先端の代替手段と比較して、特にリアルタイムコーディングモデルの実行において、大幅な効率性の向上が示されている。この垂直統合により、OpenAIのNVIDIA GPUへの依存が軽減され、GoogleやAmazonが採用する戦略と一致している。