LFM2.5-DSpark, 3.2배 더 빠르고 단일 GPU에서 구동
LiquidAI는 이전 모델보다 최대 3.2배 빠른 추론 속도를 달성한 1.2B instruct 모델 LFM2.5-DSpark를 출시했습니다. 이번 속도 최적화는 소비자급 하드웨어에서도 고성능 텍스트 생성을 가능하게 합니다.
LiquidAI는 Hugging Face에 lfm2.5-1.2b-instruct-dspark를 도입하여 지연 시간 감소에 중점을 둔 텍스트 생성 라인업을 업데이트했습니다. 새로운 모델 변형은 이전 반복보다 최대 3.2배 빠른 추론을 달성하여 제한된 하드웨어에서 실시간 애플리케이션에 적합합니다. 로컬 LLMS를 실행하는 개발자는 이제 이 1.2B 매개변수 모델을 활용하여 처리량을 크게 개선할 수 있습니다. 이러한 움직임은 뛰어난 기능을 가볍고 효율적인 아키텍처로 추출하는 산업의 변화를 강화합니다.