ARCHIVE · 21

Todos os artigos

Dos fundamentos aos critérios de decisão da prática profissional.

Programação e agentes de IA5 min de leitura

[Contexto de IA #7] Reduza o custo da API com cache de prompts

O último artigo da série é sobre dinheiro. Se você já executou um agente por API, provavelmente notou algo estranho na cobrança: os tokens de entrada custam muito mais que os de saída. Lembrando a estrutura do primeiro artigo, isso é esperado. A cada turno, todo o conteúdo, do prompt do sistema ao histórico completo, é enviado novamente; em uma sessão de 50 turnos, o mesmo prompt do sistema é cobrado 50 vezes…

Ler artigo