Google, Gemini API용 Flex 및 Priority 티어 출시
google이 gemini api에 flex 및 priority 추론 티어를 추가했습니다. flex는 중요도를 낮춰 백그라운드 작업 비용을 50% 절감하고, priority는 대화형 앱에 높은 안정성을 제공합니다. 두 티어 모두 표준 동기식 엔드포인트를 사용하므로 비동기 batch api 관리가 필요 없습니다. flex는 모든 유료 사용자가 이용할 수 있으며, priority는 티어 2 또는 3 프로젝트가 필요합니다.
구글은 Gemini API에 Flex 및 Priority 추론 등급을 도입하여 개발자가 통합 인터페이스를 통해 비용과 안정성을 최적화할 수 있도록 했다. Flex 추론은 데이터 강화 또는 에이전트 백그라운드 프로세스와 같은 지연 허용 워크로드에 대해 표준 가격 대비 50% 절감을 제공하며, 일괄 관리 복잡성을 우회하기 위해 동기식 인터페이스를 사용한다. Priority Inference는 사용자 직면 애플리케이션에 대한 높은 안정성 요구를 대상으로 하며, 한계 초과 시 표준 등급으로 자동 우아한 다운그레이드를 통해 피크 로드 동안 트래픽이 선점되지 않도록 보장한다.