OpenAI的Jalapeño晶片在基準測試中擊敗Nvidia Blackwell —— 為何要等到2027年
openai的jalapeño晶片在inferencex基準測試中超越nvidia的blackwell，實現了更高的每用戶token數和每瓦吞吐量。然而，大規模部署預計要等到2027年，這使得該公司必須在面對快速發展的競爭對手時跨越巨大的時間間隔。
OpenAI 發布了 Jalapeño，一款與 Broadcom 共同開發的定制推理處理器，據稱在 Semianalysis InferenceX 基準測試中，在每用戶令牌數和每千瓦吞吐量方面均優於 NVIDIA 的 Blackwell。該晶片設計為多代、全棧平台，通過保持 KV 快取等模型狀態本地化，專門針對預填充和通信階段的延遲。雖然這種架構可以為每個功耗單位執行更多 AI 工作，但時間表仍然是一個障礙，小批量部署計劃於 2026 年底進行，全面推廣預計在 2027 年。這個延遲創造了一場與市場的競賽，因為 NVIDIA 和競爭對手可能會在 Jalapeño 達到規模之前發布高級迭代。