OktaのアイデンティティスコープでAIトークンコストを80%削減
oktaは、アイデンティティスコープ化されたmcpツールリストを活用し、「ツール税」とも呼ばれる無駄なトークンを最小限に抑えることを提案しています。このアプローチにより、複雑なAIエージェントを展開する開発者の運用コストを削減できます。
Oktaは、AIエージェントにおける非効率的なトークン消費、いわゆる「ツール税」をターゲットとしている。これは、モデルが利用可能なすべてのツールのスキーマと説明を処理する場合に発生する。彼らのソリューションは、IDスコープのMCPツールリストを使用し、エージェントがユーザーのIDに関連するツールのみを受信することを保証する。これにより、プロンプトのオーバーヘッドが削減され、エージェントのワークフローのAPIコストとレイテンシの両方が低下する。この方法は、実稼働展開が増加するにつれて、エージェントインフラストラクチャの最適化に対する注目が高まっていることを浮き彫りにしている。