Brex protege seus agentes com um proxy 'LLM-juiz'
A Brex criou o CrabTrap, um proxy HTTP que usa um LLM como juiz para barrar ações perigosas de agentes rodando em produção.
Como replicar
- Faça o agente sair para a internet só por um proxy.
- No proxy, peça a um segundo modelo para avaliar cada requisição contra uma política.
- Bloqueie o que for arriscado e registre tudo.
Prompt para copiar
Você é um revisor de segurança. Política: o agente pode LER [domínios], mas não pode enviar dados de clientes, fazer pagamentos nem apagar recursos.
Para a requisição HTTP abaixo, responda só JSON {"permitir": bool, "motivo": "..."}.
Requisição: [método, URL, corpo]Troque o que está entre [colchetes]. Funciona com Claude, ChatGPT, Grok, Gemini ou o agente que você usa.