cerebras 助力 gpt 5.6 sol 实现每秒 750 token 的速度
openai 的 ultrafast 模式達到每秒 750 token 的輸出速度，比標準處理快 14 倍。這與 cerebras 的合作可能徹底改變實時企業 ai 應用。
OpenAI 推出了 Ultrafast，一种针对其 GPT 5.6 SOL 模型的處理模式，實現每秒 750 個 token，速度是標準速度的 14 倍。此能力依赖于与芯片制造商 Cerebras 的合作，以绕过傳統的延迟瓶颈。该工具目前在客戶服務和市場分析等领域的企业客戶中有限预览。此举優先考慮吞吐量而非參數數量，可能會為 AI 部署速度樹立新的標準。