Okta의 아이덴티티 스코핑으로 AI 토큰 비용 80% 절감
okta는 '툴 세금', 즉 낭비되는 토큰을 최소화하기 위해 아이덴티티 범위가 지정된(identity-scoped) mcp 툴 리스트 사용을 제안합니다. 이 접근 방식은 복잡한 ai 에이전트를 배포하는 개발자의 운영 비용을 절감해 줍니다.
오크타(Okta)는 AI 에이전트의 비효율적인 토큰 소비를 목표로 하고 있는데, 이를 '툴 택스(Tool Tax)'라고 하며, 모델이 사용 가능한 모든 툴에 대한 스키마 및 설명을 처리할 때 발생한다. 이들의 솔루션은 ID 범위 MCP 툴 목록을 사용하여 에이전트가 사용자의 ID와 관련된 툴만 수신하도록 한다. 이로 인해 프롬프트 오버헤드가 줄어들어 에이전트 워크플로우에 대한 API 비용과 지연 시간이 모두 낮아진다. 이 방법은 프로덕션 배포가 증가함에 따라 에이전트 인프라 최적화에 대한 관심이 증가하고 있음을 강조한다.