Como reduzir o custo de tokens de IA: cache, lote, roteamento e prompts menores

Quatro alavancas cortam a maior parte da conta de API de IA, e a tabela de preço de cada provedor diz o tamanho de cada uma. O prompt caching cobra o começo repetido do prompt de 2,5% a 10% do preço de entrada. As APIs de batch da OpenAI, da Anthropic e do Google cobram metade do preço pelo que pode esperar até 24 horas. Modelos pequenos, como o GPT-6 Luna e o Claude Haiku 5.5, custam um vigésimo do GPT-6.1 Sol e do Claude Sonnet 5.5. E o token de saída custa de 5 a 8,3 vezes o de entrada, então encurtar a resposta rende mais que encurtar o prompt. No exemplo mais abaixo, cache, batch e um modelo pequeno na frente levam um mês de US$ 5.850 para US$ 1.404.

Os preços vêm das páginas dos próprios provedores, conferidos em 29 de outubro de 2026. As tabelas completas estão no guia Quanto custa um token, que também faz a conta do dólar para o real com IOF.

Qual a forma mais barata de usar uma API de IA?

Use o menor modelo que passa nos seus evals, ponha em cache tudo que se repete, mande para batch tudo que pode esperar e limite o tamanho da resposta.

Cache e batch mantêm o mesmo modelo e o mesmo prompt, por isso entram primeiro. Roteamento e limite de saída mudam o que o usuário recebe; teste os dois nos seus evals antes de ligar.

Como funciona o prompt caching na OpenAI, na Anthropic e no Google?

Os três guardam o começo do prompt, e uma requisição só acerta o cache quando os primeiros tokens dela batem, um a um, com os de uma requisição anterior. No começo vai o que nunca muda (instruções, definição das tools, documentos de referência); no fim, o que muda a cada chamada (a pergunta do usuário, data e hora, dados da conta).

Na OpenAI você não configura nada, e o campo usage.input_tokens_details.cached_tokens de cada resposta mostra quanto do prompt veio do cache; no batch, a entrada em cache do GPT-6.1 Sol sai a US$ 0,05 por milhão. A Anthropic pede o cache_control: a gravação de 5 minutos se paga na primeira leitura, e a de 1 hora, na segunda. O cache dela segue a ordem tools, system, messages, e mexer num nível quebra esse nível e todos os seguintes, então basta editar a definição de uma tool para perder o cache inteiro. Prompt abaixo do mínimo roda sem cache e sem erro nenhum; se cache_creation_input_tokens e cache_read_input_tokens vierem zerados, a requisição não usou o cache.

O Gemini faz o cache sozinho, e o Google dá o mesmo conselho: conteúdo grande e comum vai no começo do prompt. Do Gemini 4 Argon em diante não existe cache explícito, então é o implícito que você precisa acertar.

Quando vale usar a API de batch?

Quando ninguém está esperando a resposta: o relatório da madrugada, a classificação de tickets, os evals. Os três provedores cobram metade do preço no processamento em lote:

• OpenAI: devolve em até 24 horas, aceita até 50 mil requisições ou 200 MB por lote e tem rate limits próprios. Batch API da OpenAI.
• Anthropic: a maioria dos lotes termina em menos de uma hora, o lote aceita até 100 mil requisições ou 256 MB e expira em 24 horas, e a Anthropic não cobra o que expirou. O desconto do batch soma com o do cache, mas o acerto de cache dentro do lote é de melhor esforço, de 30% a 98% pela conta da própria Anthropic. Batch do Claude.
• Google: o Gemini mira 24 horas, aceita arquivo de até 2 GB e usa o context caching também no batch. Batch API do Gemini.

Entre o tempo real e o batch fica o Flex, uma chamada síncrona com preço de batch. Na OpenAI, service_tier: "flex" cobra a tarifa da Batch API, responde mais devagar e pode devolver 429 Resource Unavailable, que não entra na conta. No Gemini, o Flex custa 50% do padrão, mira de 1 a 15 minutos e, quando falta capacidade, devolve 503 ou 429 sem passar a requisição para a camada padrão; o seu código tenta de novo ou cai para outra opção. Flex da OpenAI · Flex do Gemini.

Vale mandar as perguntas fáceis para um modelo menor?

Vale, se o modelo pequeno passar nos seus evals. A Anthropic orienta, na própria página de preços, usar o Haiku em tarefas simples, o Sonnet na maior parte da produção e o Opus no raciocínio mais complexo, e a OpenAI indica o GPT-6 Luna para cargas "cost-sensitive, high-volume". Modelos da OpenAI. GPT-6 Luna e Claude Haiku 5.5 (em prompts de até 100 mil tokens) custam US$ 0,10 na entrada e US$ 0,50 na saída, um vigésimo do GPT-6.1 Sol e do Claude Sonnet 5.5 e um centésimo do GPT-6 Astra e do Claude Fable 5.1. No Google, o Gemini 3.5 Flash-Lite sai a US$ 0,30 e US$ 2,50, contra US$ 2 e US$ 10 do Gemini 4 Argon até 30 de novembro de 2026 e US$ 4 e US$ 20 a partir de 1º de dezembro.

• Roteador: uma regra escolhe o modelo antes da chamada, pelo tipo de tarefa, pelo tamanho do prompt ou pelo plano do cliente. Não gasta token, mas alguém precisa manter a regra em dia com o tráfego.
• Cascata: toda requisição vai primeiro para o modelo pequeno, e só sobe para o grande a que falha numa checagem, como um JSON schema. Quem sobe paga as duas chamadas, e com o pequeno a um vigésimo do preço a cascata compensa enquanto menos de 95% subirem.

O Amazon Bedrock vende o roteamento pronto: o Intelligent Prompt Routing escolhe entre modelos da mesma família por US$ 1 a cada mil requisições. Em 300 mil requisições por mês, são US$ 300, mais que os US$ 88,50 do Claude Haiku 5.5 para o mesmo tráfego no exemplo abaixo. Preços do Amazon Bedrock.

Quanto um uso real economiza com cache, batch e roteamento?

Pense numa empresa com duas cargas no Claude Sonnet 5.5. Um assistente de atendimento responde 10 mil perguntas por dia; cada requisição leva um system prompt de 4.500 tokens mais 500 tokens do cliente e recebe uma resposta de 400 tokens. Toda madrugada, uma rotina resume 5 mil tickets, com 1.500 tokens de instruções fixas mais um ticket de 2.500 tokens na entrada e 300 tokens na saída. Em 30 dias, são 450 mil requisições.

Assistente: 300 mil requisições por mês
  entrada 1.350 mi em cache + 150 mi novos, saída 120 mi
  início     1.500 mi x US$ 2 + 120 mi x US$ 10                         = US$ 4.200,00
  com cache  1.350 mi x US$ 0,10 + 150 mi x US$ 2 + 120 mi x US$ 10     = US$ 1.635,00
  Haiku      1.350 mi x US$ 0,01 + 150 mi x US$ 0,10 + 120 mi x US$ 0,50 =    US$ 88,50
  sobem      30% x US$ 1.635,00 no Sonnet 5.5                           =   US$ 490,50
  cascata    US$ 88,50 + US$ 490,50                                     =   US$ 579,00

Resumos da madrugada: 150 mil requisições por mês
  entrada 225 mi fixos + 375 mi de tickets, saída 45 mi
  início     600 mi x US$ 2 + 45 mi x US$ 10                            = US$ 1.650,00
  com cache  225 mi x US$ 0,10 + 375 mi x US$ 2 + 45 mi x US$ 10        = US$ 1.222,50
  batch      600 mi x US$ 1 + 45 mi x US$ 5                             =   US$ 825,00

Só o cache já tira 51,2% do mês, porque o começo fixo é 90% da entrada do assistente e 37,5% da entrada da rotina. O batch leva a rotina de US$ 1.222,50 para US$ 825, e a cascata com o Haiku na frente leva o assistente de US$ 1.635 para US$ 579. Por requisição, o custo cai de 1,3 para 0,312 centavo de dólar.

A conta parte de três premissas nossas. O cache fica aquecido o mês todo, então as poucas gravações ficam de fora. Os 30% de escalonamento são um número de exemplo, e o seu sai do seu tráfego. E a linha do batch não conta acerto de cache, que a Anthropic trata como melhor esforço; se todo começo de prompt acertasse, a rotina sairia por US$ 611,25.

Como gastar menos tokens de saída?

Com o começo do prompt em cache, a saída vira o grosso da conta: no exemplo, US$ 1.200 dos US$ 1.635 do assistente. Encurtar a resposta média de 400 para 300 tokens tira 30 milhões de tokens de saída por mês, ou US$ 300 no Claude Sonnet 5.5.

• Limite o tamanho. O max_output_tokens da OpenAI conta os tokens visíveis e os de raciocínio juntos, e quem bate no limite pode pagar entrada e raciocínio sem receber resposta nenhuma; a OpenAI sugere reservar pelo menos 25 mil tokens no começo com modelos de raciocínio. Raciocínio na OpenAI.
• Baixe o esforço de raciocínio, que os três cobram como saída. O output_config.effort da Anthropic vai de low a max, com medium como padrão no Opus 5.5 e no Haiku 5.5; o reasoning.effort da OpenAI e o thinking_level do Gemini fazem o mesmo papel. Effort no Claude.
• Peça um rótulo ou um JSON curto no lugar de um parágrafo. Os Structured Outputs da OpenAI (text.format com json_schema e strict: true) e o output_config.format da Anthropic prendem o modelo ao seu schema. Structured outputs do Claude.

Como enxugar o contexto e os chunks do RAG?

Todo token de entrada entra na conta, inclusive os da mensagem anterior. A OpenAI avisa que, com previous_response_id, a entrada de todas as respostas anteriores da cadeia volta a ser cobrada, e um chat de 20 mensagens paga a primeira 20 vezes, a menos que o histórico acerte o cache. Estado da conversa na OpenAI. Antes de mandar, conte: o POST /v1/responses/input_tokens da OpenAI, o /v1/messages/count_tokens da Anthropic, que é grátis, e o countTokens do Gemini dizem o tamanho do prompt antes da cobrança.

• Compacte as conversas longas. A OpenAI compacta pelo context_management ou pelo /responses/compact, e o context editing da Anthropic apaga, por padrão, os resultados de tool mais antigos quando o prompt passa de 100 mil tokens. A limpeza quebra o começo em cache, então use o clear_at_least para que cada uma compense. Context editing do Claude.
• Busque menos chunks. Os vector stores da OpenAI cortam os arquivos em chunks de 800 tokens com 400 de sobreposição, e a busca devolve 10 resultados por padrão. Dez chunks somam 8 mil tokens a cada pergunta, US$ 4.800 por mês em 300 mil perguntas a US$ 2 por milhão, e como mudam a cada pergunta, ficam fora do cache. Com cinco, a conta cai pela metade. Retrieval da OpenAI.

Bedrock e Agent Platform saem mais baratos que as APIs diretas?

Não. Nos endpoints globais, os dois cobram o preço de tabela do dono do modelo, e nos regionais e multirregionais cobram 10% a mais. O que muda a escolha é a fatura: onde ela cai, em que moeda chega e onde os dados ficam.

• As APIs diretas também cobram pela região: a OpenAI soma 10% pelo processamento regional nos modelos lançados a partir de 5 de março de 2026, e o inference_geo: "us" da Anthropic multiplica o preço por 1,1.
• O Bedrock não lista preço de batch para os modelos Claude 5.5; a API da Anthropic e o Agent Platform cobram US$ 1 / US$ 5 no batch do Sonnet 5.5.
• No Brasil, a AWS fatura os próprios serviços em reais pela AWS SBL, mas o Claude e os outros modelos que o Bedrock vende pelo AWS Marketplace seguem outro caminho: o Bedrock assina o modelo na primeira chamada, e a AWS, Inc. fatura o Marketplace em dólar, numa segunda fatura. Os modelos da própria Amazon ficam fora do Marketplace. Acesso a modelos no Bedrock · AWS no Brasil.
• O Google Cloud fatura contas do Brasil em reais, com câmbio definido no começo de cada mês, e aceita cartão de crédito (inclusive Elo), Pix em pagamento manual e boleto como forma de pagamento reserva. Moedas do Google Cloud.
• Na API direta, a Anthropic avisa que "All payments are in USD".

Como fazer o controle de gastos com IA por time, funcionalidade e chave?

Dê a cada time, e a cada funcionalidade que você quer custear, uma unidade de cobrança própria, e leia o custo dela todo dia. Uma queda de 30% no total não diz qual funcionalidade ficou mais barata. Na OpenAI, isso é um projeto por time e uma chave por funcionalidade, lidos pela Costs API por project_id ou api_key_id; na Anthropic, um workspace por time, lido pela Cost API; no Bedrock, desde 9 de abril de 2026, o Cost and Usage Report 2.0 com a identidade de quem chamou mostra o usuário ou a role do IAM de cada chamada. Acompanhe também o custo por requisição, que no exemplo caiu de 1,3 para 0,312 centavo de dólar. O guia Como acompanhar o custo de OpenAI, Anthropic e Bedrock por time traz a configuração de cada provedor.

Que limites seguram a conta de IA?

Um limite rígido por time em cada provedor, mais tetos no seu próprio código.

• OpenAI: limites rígidos por organização e por projeto. O projeto que passa do limite recebe erro 429 com o código project_spend_limit_exceeded, e a própria OpenAI diz que alerta de gasto não impõe teto. Limites de gasto da OpenAI.
• Anthropic: um limite mensal por workspace, menos no Default Workspace, que não aceita limite. Workspaces do Claude.
• Google Cloud: um spend cap budget mensal, num projeto e num serviço como a API Gemini ou o Agent Platform, pausa o uso novo ao chegar a 100%. A trava não é instantânea e o Google cobra o excedente, então ponha o teto um pouco abaixo do seu limite real. Spend cap budgets.
• AWS: um budget na tag ou na conta do time e o Cost Anomaly Detection, os dois configurados no guia Como reduzir custos na AWS.
• No seu código: teto de tokens em toda chamada, limite de passos por tarefa de agente e rate limit por usuário final.

Erros comuns ao cortar o custo de tokens

• Data e hora ou o nome do usuário no topo do system prompt, o que muda o começo e erra o cache em toda requisição.
• Definições de tool montadas a cada requisição, em outra ordem ou com outro texto. Na Anthropic, isso derruba o cache inteiro.
• Limite de saída apertado num modelo de raciocínio, que pode cobrar entrada e raciocínio sem resposta visível.
• Rotear pelo preço sem evals. Acima de 95% de escalonamento, a cascata com o Haiku na frente custa mais que o Sonnet sozinho.

Onde entra a LevelFour?

A LevelFour lê as faturas da OpenAI e da Anthropic e as linhas do Bedrock na fatura da AWS ao lado do resto do gasto com cloud e SaaS: a fatura por modelo e por chave, o uso por pessoa e por time. As virtual tags alocam esse gasto sem mexer nas tags dos recursos, e o time de Pagamentos pode ficar com uma conta da AWS, um projeto da OpenAI e um workspace da Anthropic. Budgets e alertas de anomalia chegam no Slack, no Microsoft Teams, no Jira ou em qualquer webhook. O Cloud Savings entrega a economia que encontra na fatura de cloud, aplicada na sua conta ou como pull request, e o Savings Audit confirma cada uma na fatura. O gasto com IA entra em todos os planos, a partir de US$ 30 por mês. Veja quanto você pode economizar em 5 minutos, com acesso somente leitura.

Perguntas frequentes