CerebrasがGPT-5.6 Solを毎秒750トークンで駆動
OpenAIの超高速モードが毎秒750トークンに到達、標準処理の14倍の速さを実現。Cerebrasとのこの提携は、リアルタイムのエンタープライズAIアプリケーションに革命を起こす可能性がある。
OpenAIは、GPT 5.6 Solモデルの処理モードである「ウルトラファスト」を発表した。このモードは、1秒あたり750トークンを処理でき、標準速度の14倍を達成する。この機能は、チップメーカーのCerebrasとの提携により、従来のレイテンシのボトルネックを回避して実現された。このツールは、現在、カスタマーサービスや市場分析などの分野のエンタープライズ顧客向けに限定プレビュー中である。この動きは、パラメータ数よりもスループットを優先し、AIの展開速度の新しい標準を設定する可能性がある。