DeepSeekのDSpark、推論ラグを85%削減し米チップ制裁に対抗
DeepSeekは、推論速度を最大85%向上させるスペキュレーティブデコーディングフレームワーク「DSpark」をリリースした。この効率性により、中国は米国によるハイエンドAIチップ輸出規制強化の影響を緩和できる。
DeepSeekは、軽量モデルがトークンをドラフトし、より大きなモデルがバッチで検証する投機的デコーディングフレームワークであるDSparkをオープンソース化した。これにより、ユーザあたりの応答速度が60-85％向上する。GoogleのGemmaおよびアリババのQwenモデルでのテストでは、DSparkはEagle3などの従来の効率リーダーに打ち勝った。この技術は、GPUの利用率を最適化し、拒否されたトークンに対する無駄な処理を減らす。戦略的には、この効率性により、中国やEUなどの地域は、より少ないハイエンドチップでより高いAI性能を達成し、米国の輸出規制やハードウェア不足の影響を緩和できる。