Deepseek、V4.1-FlashモデルでAIエージェントのメモリ需要を大幅に削減
Deepseekが新AIモデル「V4.1-Flash」をリリース。長文処理におけるメモリ需要と計算量を削減し、AIエージェントをターゲットとしている。これによりデプロイコストとモデルのパフォーマンスが影響を受ける。
deepseekが新しいAIモデル「v4.1-flash」をリリースしました。このモデルは、必要なバッファを縮小することで、長文テキスト処理の運用コストを大幅に削減します。同モデルは、情報の読み取りに起動する計算量を抑える技術的な分割によって、データ入力に必要な計算量を半分にします。deepseekのモデルは5520億のパラメータを持ち、最大100万トークンまでのコンテキストを処理できます。同社は高速GPUメモリ内のバッファを、前世代モデルの約4分の1のサイズまで削減しました。これはデプロイコストとモデルのパフォーマンス、特にAIエージェントにおいて影響を及ぼします。