OpenAI 的 Jalapeño 晶片劍指 Nvidia
openai 公佈了與博通合作打造的首款定制推理晶片 'jalapeño'。此舉標誌著該公司在運行模型方面尋求減少對 nvidia gpu 的依賴。
OpenAI 發布了其首款自訂推理晶片 Jalapeño，與 Broadcom 共同開發，旨在優化其模型推理的每瓦性能。早期測試表明，與最先進的替代方案相比，顯著提高了效率，特別是對於運行即時編碼模型而言。這種垂直整合降低了 OpenAI 對 NVIDIA GPU 的依賴，符合 Google 和 Amazon 採用的策略。