LFM2.5-DSpark 速度快 3.2 倍——且可在单 GPU 上运行
liquidai 发布了 lfm2.5-dspark,这是一个 1.2b 的指令模型,推理速度比前代产品快 3.2 倍。这种速度优化使得在消费级硬件上进行高性能文本生成成为可能。
LiquidAI 在 Hugging Face 上推出了 `lfm2.5-1.2b-instruct-dspark`,通过降低延迟更新了其文本生成产品线。新模型变体的推理速度比之前的迭代快高达 3.2 倍,使其在硬件有限的情况下仍可用于实时应用。运行本地 LLM 的开发人员现在可以利用这个 1.2B 参数模型来显著提高吞吐量。这一举动加强了行业向将高能力提炼成轻量级和高效率架构的转变。