Migrou um agente em produção para GPT-5.6: 2,2x mais rápido
A Ploy trocou o modelo do seu agente em produção para o GPT-5.6 e mediu respostas 2,2 vezes mais rápidas e custo 27% menor.
Como replicar
- Monte um conjunto de avaliação com conversas reais do seu agente.
- Rode o modelo atual e o novo no mesmo conjunto, medindo qualidade, latência e custo.
- Migre aos poucos (ex.: 10% do tráfego) antes de virar a chave.
Prompt para copiar
Compare as duas respostas abaixo para a mesma tarefa do nosso agente de [função]. Critérios: acertou a tarefa (sim/não), seguiu as regras do sistema (sim/não), tom, tamanho. Responda em JSON com uma nota de 1 a 5 para cada resposta e o motivo. Tarefa: [...] Resposta A: [...] Resposta B: [...]
Troque o que está entre [colchetes]. Funciona com Claude, ChatGPT, Grok, Gemini ou o agente que você usa.