DeepSeek-V4、エージェントワークロードの長文コンテキストコストを90%削減
deepseek-v4は、ハイブリッドアテンション機構csaとhcaによりエージェント型タスクの失敗に対処する。v4-proは、1mトークンコンテキストにおいてv3.2と比較してkvキャッシュメモリの10%、推論flopsの27%を使用する。v4-flashはさらにメモリを7%まで削減する。このアーキテクチャはfp4インデックスとfp8ストレージを用い、再プロンプトなしで長いツール使用の軌跡を処理する。
DeepSeekは、長いコンテキストのエージェントワークフローに最適化されたモデルアーキテクチャであるV4をリリースした。これにより、推論コストを削減するために、Compressed Sparse Attention（CSA）やHeavily Compressed Attention（HCA）が導入された。V3.2と比較して、V4-Proは、100万トークンで、シングルトークンの推論FLOPsの27％、KVキャッシュメモリの10％を使用する。V4-Flashは、これらの数字を10％のFLOPsと7％のメモリにまで削減する。この効率性は、4倍と128倍の圧縮率、FP4インデックス、FP8ストレージに起因する。