cerebras 助力 gpt 5.6 sol 實現每秒 750 token 的速度
openai 的 ultrafast 模式達到每秒 750 token 的輸出速度，比標準處理快 14 倍。這與 cerebras 的合作可能徹底改變實時企業 ai 應用。
OpenAI 發布了 Ultrafast，一種適用於其 GPT 5.6 SOL 模型的處理模式，實現了每秒 750 個 token，速度是標準速度的 14 倍。此能力依賴於與晶片製造商 Cerebras 的合作，以繞過傳統的延遲瓶頸。該工具目前在客戶服務和市場分析等領域的企業客戶中有限預覽。此舉優先考慮吞吐量而不是參數數量，可能為 AI 部署速度設定新的標準。