rotative
the decoder · 2026年8月25日

OpenAI Jalapeño 芯片据称在推理基准测试中击败英伟达 Blackwell 和 Rubin

openai 的首款自研推理晶片 "jalapeño" 據稱能效比英偉達 blackwell 和 rubin 高出 1.5-1.9 倍,延遲降低 3.6 倍,這可能標誌著英偉達 "cuda 護城河" 的終結。

read in English · 繁體中文 · 日本語 · 한국어

OpenAI 在Hot Chips会议上公开了其首款自研推理芯片“jalapeño”,声称该芯片在每瓦吞吐量和延迟方面超过了NVIDIA的Blackwell和Rubin。该芯片与Broadcom合作,仅用9个月时间便完成设计和优化,其采用OpenAI自有模型。 在内部测试中,该芯片在GPT-OSS 120B上实现了1400 tokens/秒,在DeepSeek R1 670B上实现了700 tokens/秒。虽然该芯片在无需推测解码的情况下表现出显著的性能优势,但目前仅作为工程样品存在,而Rubin系统已经开始向客户发货。

read at source ↗

← rotative