Deepseek, V4.1-Flash 모델로 AI 에이전트의 메모리 요구량 대폭 축소
deepseek가 새로운 AI 모델 v4.1-flash를 출시하여 긴 텍스트 처리에 필요한 메모리와 연산량을 줄이며 AI 에이전트를 겨냥하고 있습니다. 이는 배포 비용과 모델 성능에 영향을 미칩니다.
deepseek는 필요한 버퍼를 줄여 긴 텍스트 처리의 운영 비용을 크게 절감하는 새로운 AI 모델 v4.1-flash를 출시했습니다. 이 모델은 정보를 읽을 때 더 적은 연산을 활성화하는 기술적 분할 방식을 통해 데이터 입력에 필요한 연산량을 절반으로 줄였습니다. deepseek의 모델은 5520억 개의 매개변수를 갖추고 있으며 최대 100만 토큰의 컨텍스트를 처리할 수 있습니다. 이 회사는 고속 GPU 메모리의 버퍼를 이전 모델의 약 4분의 1 크기로 줄였습니다. 이는 특히 AI 에이전트에 있어 배포 비용과 모델 성능에 영향을 미칩니다.