Pare de Construir Wrappers do ChatGPT: O Que Agentes de IA em Produção Precisam de Verdade

Toda semana um time entrega um "copiloto" que responde perguntas em cima de um PDF. O financeiro adora a demo. A engenharia sorri educada. Três meses depois, ninguém abre — e a liderança pergunta por que a conta da OpenAI não para de crescer.

O problema raramente é o modelo. É tudo em volta do modelo.

A armadilha do wrapper

Um wrapper estilo ChatGPT te dá:

• Uma caixa de chat
• Um prompt
• Talvez RAG na wiki do trimestre passado

Isso basta para um print. Não basta para produção, onde o usuário espera que o sistema faça coisas: abrir ticket, consultar banco, disparar fluxo, respeitar permissão, se recuperar de falha e ficar no orçamento.

Agentes em produção precisam de um harness — a camada de engenharia que liga o modelo ao seu mundo real.

Cinco coisas que agentes em produção precisam (e demos ignoram)

1. Roteamento de ferramentas alinhado aos seus sistemas

Agentes precisam chamar APIs e serviços internos com credencial certa, timeout e retry. "O LLM vai se virar" quebra na primeira 403 ou timeout.

O harness deve definir ferramentas de forma explícita, logar cada chamada e falhar com segurança — não alucinar sucesso.

2. Memória e sessão que você consiga debugar

Usuário não fala em prompts isolados. Fala de "aquele cliente" e "o problema de ontem". Produção exige estado de sessão, não transcript infinito empurrado no contexto.

Se você não consegue replay da sessão e ver o que o agente sabia no passo três, não consegue resolver incidente.

3. Engenharia de harness — não só prompt engineering

Prompt importa. O runtime também: orquestração (agente único vs multi-etapa), quando escalar para humano, como limitar tokens e como versionar mudanças como qualquer outro serviço.

Times que só afinam prompt estão afinando uma camada de um sistema que tem cinco.

4. Guardrails com dente

Limites de PII, acesso por papel, ferramentas permitidas por time e filtros de saída não são "nice to have" em cenário regulado ou com cliente. Pertencem ao harness, não à esperança de que o modelo se comporte.

5. Custo e qualidade mensuráveis

Produção significa dashboard: custo por sessão, latência, taxa de falha de ferramenta e taxa de takeover humano. Sem métrica, FinOps e engenharia brigam se o agente vale a pena.

Checklist simples antes de chamar de produção

Antes de dizer que o agente está em produção, você responde sim?

Pergunta	Por que importa
Só chama ferramentas aprovadas com credencial limitada?	Evita vazamento e ação surpresa
Dá para replay da sessão passo a passo?	Debug e confiança
Existe handoff limpo para humano?	Trabalho real é ambíguo
Há limite de tokens/custo por usuário ou time?	Evita susto na fatura
Testou com perguntas reais — não roteiro de demo?	Pergunta de demo mente

Se duas ou mais respostas forem não, ainda é piloto — não produto.

Onde a Neomenti entra

Focamos a frente de IA como engenharia de harness mais desenvolvimento de agentes: orquestração estilo LangChain/LangGraph, RAG nos seus dados, integrações de ferramentas e guardrails/observabilidade que produção exige.

Se seu copiloto está preso na demo, mapeamos o que falta, propomos arquitetura de harness e construímos os agentes que rodam dentro dele — na mesma base de cloud e DevOps que já operamos para clientes.

Fale conosco com seu caso (suporte, ops, conhecimento interno, campo). Dizemos com honestidade se você precisa de agente, de fluxo ou só de busca melhor.