Cloudflare usa agentes e corta em 68% o custo da revisão com IA
A Cloudflare encarregou agentes de investigar o gasto de tokens do seu revisor e combinou ajustes de cache, modelos e esforço. Segundo a equipe, o custo médio caiu de US$ 2,43 para US$ 0,77 e a duração mediana de 4min09s para 1min32s.
Como replicar
- Separe o gasto do agente em entrada, saída, escrita e leitura de cache.
- Teste prefixos estáveis e combinações de modelo e esforço em uma amostra.
- Compare custo e latência junto com bugs reais encontrados e falhas de execução.
Prompt para copiar
Investigue os custos deste agente com os registros sanitizados em [pasta]. Separe tokens e gasto por etapa e tipo de cache. Proponha experimentos isolados de cache, modelo e esforço, com teto de [orçamento]. Não execute chamadas pagas; entregue o plano e critérios para medir custo, latência e qualidade.
Troque o que está entre [colchetes]. Funciona com Claude, ChatGPT, Grok, Gemini ou o agente que você usa.