LFM2.5-DSparkは3.2倍高速——しかも単一GPUで動作
LiquidAIは、前世代比最大3.2倍の高速推論を実現する1.2BのinstructモデルLFM2.5-DSparkをリリースした。この速度最適化により、コンシューマーグレードのハードウェアでも高性能なテキスト生成が可能になる。
Liquid AIは、Hugging Face上で`lfm2.5-1.2b-instruct-dspark`を導入し、遅延の削減に焦点を当てたテキスト生成ラインナップを更新した。新しいモデルバリアントは、以前の反復よりも最大3.2倍高速な推論を実現し、限られたハードウェアでのリアルタイムアプリケーションに適している。ローカルLLMを実行している開発者は、1.2Bパラメータモデルを活用して、大幅に改善されたスループットを実現できるようになった。この動きは、高機能を軽量で高効率のアーキテクチャに蒸留する業界のシフトを強化するものだ。