Como a Okta Reduz Custos com Tokens em Agentes de IA Usando MCP
A Okta inova na redução de custos com IA usando o Model Context Protocol, otimização que pode transformar operações empresariais.
A Okta, uma empresa especializada em gestão de identidade, está inovando na forma como os agentes de inteligência artificial (IA) interagem com ferramentas externas, visando a redução de custos associados ao uso de tokens. Através da implementação do Model Context Protocol (MCP), a empresa busca otimizar as chamadas feitas por agentes de IA, minimizando o que chamam de "tool tax", ou imposto de ferramenta. Este imposto refere-se ao consumo de tokens que ocorre antes mesmo de uma chamada ser feita, criando um overhead que impacta diretamente os custos operacionais.
O que é o Model Context Protocol (MCP)?
O Model Context Protocol é uma abordagem que permite que agentes de IA se conectem a diversas ferramentas e dados, otimizando a forma como as informações são geridas. Cada chamada de modelo realizada por um agente pode incluir esquemas, nomes, descrições e parâmetros para cada ferramenta exposta por um servidor MCP. Isso garante que o agente tenha todas as informações necessárias para operar, mas também aumenta o custo em tokens, visto que cada ferramenta visível representa um consumo de recursos.
Redução do Custo de Tokens com Filtros de Permissão
A Okta propõe um controle que filtra a lista de ferramentas acessíveis para o modelo, com base nas permissões atribuídas à identidade do agente e ao usuário relacionado. Segundo a empresa, essa abordagem pode reduzir o número de ferramentas visíveis em mais de 90%, resultando em uma diminuição proporcional dos custos de esquema de ferramenta. Esse ajuste é fundamental, pois evita que um agente consuma tokens para ferramentas que não seriam usadas, otimizando assim o orçamento destinado ao uso de IA.
Impacto do Overhead de Esquemas de Ferramentas
O overhead gerado pelos esquemas de ferramentas em cada interação é uma preocupação crescente, especialmente quando um servidor MCP expõe um grande número de ferramentas. A Okta destaca que, com cada chamada de modelo, o agente enfrenta o overhead de ter que processar a representação de cada ferramenta disponível. Isso se traduz em custos adicionais que podem ser significativos, especialmente considerando o número de usuários ativos que fazem chamadas simultâneas. A solução proposta pela Okta não apenas visa a redução desses custos, mas também a melhoria na eficiência do uso de IA no dia a dia empresarial.
O que isso significa na prática
A implementação do Model Context Protocol pela Okta traz benefícios diretos para empresas que utilizam IA em suas operações. Por exemplo, ao reduzir o número de tokens consumidos em chamadas de API, as empresas podem economizar significativamente em seus custos operacionais. Além disso, essa abordagem permite que os agentes de IA sejam mais ágeis e eficientes, visto que eles não serão sobrecarregados com informações desnecessárias. Isso abre espaço para uma utilização mais estratégica da tecnologia, onde as empresas podem focar em resultados práticos e efetivos, aproveitando ao máximo suas ferramentas de IA.
Em um futuro próximo, espera-se que soluções como a da Okta se tornem padrão para a gestão de custos em operações que envolvem inteligência artificial, permitindo que mais empresas adotem essas tecnologias de forma sustentável e eficaz.
