OpenAI的Jalapeño芯片在基准测试中击败Nvidia Blackwell —— 为何要等到2027年
openai的jalapeño晶片在inferencex基準測試中超越nvidia的blackwell，實現了更高的每用戶token數和每瓦吞吐量。然而，大規模部署預計要等到2027年，這使得該公司必須在面對快速發展的競爭對手時跨越巨大的時間間隔。
OpenAI 发布了 Jalapeño，一款与 Broadcom 共同开发的定制推理处理器，据称在 Semianalysis InferenceX 基准测试中，在每用户 Token 数和每千瓦吞吐量方面均优于 NVIDIA 的 Blackwell。该芯片设计为多代、全栈平台，通过在本地保留 KV 缓存等模型状态，专门针对预填充和通信阶段的延迟。虽然这种架构可以为单位功耗提供更多 AI 工作，但时间表仍然是一个障碍，预计小批量部署将于 2026 年底进行，预计全面推广将于 2027 年实现。这种延迟创造了一场与市场的竞赛，因为 NVIDIA 和竞争对手可能会在 Jalapeño 达到规模之前发布先进的迭代。