OpenAI 的 Jalapeño 芯片剑指 Nvidia
openai 公布了与博通合作打造的首款定制推理芯片 'jalapeño'。此举标志着该公司在运行模型方面寻求减少对 nvidia gpu 的依赖。
OpenAI 推出了其首款定制推理芯片 Jalapeño，与 Broadcom 共同开发，以优化其模型推理的性能功耗比。早期测试表明，与最先进的替代方案相比，特别是在运行实时编码模型方面，效率有了显著提高。这种垂直整合减少了 OpenAI 对 NVIDIA GPU 的依赖，与 Google 和 Amazon 采用的策略保持一致。