전 OpenAI 연구원, 빠른 판단을 위한 AI 모델 'Jev' 개발
type safe ai가 소프트웨어 내에서 빠른 판단을 제공하는 모델 jev를 공개했습니다. 속도와 비용 면의 이점을 내세우지만, 적용 범위는 제한적입니다.
전직 openai 연구원이자 instructgpt 저자인 diogo almeida가 설립한 스타트업 type safe ai가 소프트웨어 내에서 빠른 판단을 제공하는 AI 모델 jev를 선보였습니다. 일반적인 챗봇과 달리, jev는 텍스트를 생성하는 대신 개발자가 정의한 옵션에 점수를 매기도록 설계되었습니다. 이 모델은 1초 미만의 응답 시간을 자랑하며, 비용은 백만 입력 토큰당 $0.042까지 낮아질 수 있습니다. jev의 활용 사례로는 고객 요청 분류, 구매 의도 파악, 그리고 사람이 개입해야 하는 시점 판단 등이 있습니다. 이 모델은 환각(hallucination)을 일으킬 수는 없지만, 미리 설정된 옵션 범위 내에서 사실과 다른 선택을 할 가능성은 여전히 있습니다.