A Conta Que Me Fez Questionar Tudo

Mês passado, analisei a fatura de API de um projeto com agentes orquestrados por LangGraph. O custo era 40x maior do que eu estimava. Por quê? Porque a cada turno, o orquestrador injetava novas instruções, roteava chamadas, gerenciava histórico — e cada uma dessas operações consumia tokens de um modelo de fronteira.

Eu sabia que orquestração externa era cara. Não sabia que era tão cara. E quando encontrei o paper “Compiling Agentic Workflows into LLM Weights” (arXiv:2605.22502, publicado em 21 de maio de 2026), descobri que não era o único pensando nisso — e que a solução é mais radical do que eu imaginava.

A proposta: em vez de manter um orquestrador externo rodando acima do LLM, compile o workflow inteiro diretamente nos pesos de um modelo menor. O resultado? Modelo de 3B parâmetros que entrega 87-98% da qualidade de um modelo de fronteira 70x maior, a um custo 128-462x menor, com 2,8x mais velocidade.

E a privacidade? Os dados nunca saem da sua infraestrutura.

O Segredo Sujo da Orquestração Externa

Frameworks de orquestração de agentes acumulam mais de 290.000 estrelas no GitHub — LangGraph, CrewAI, Google ADK, OpenAI Agents SDK, Semantic Kernel, Strands, LlamaIndex. Todos seguem o mesmo padrão: um orquestrador externo acima do LLM, injetando instruções e decisões de roteamento a cada turno.

E todos carregam os mesmos problemas:

Complexidade absurda. Dezenas de componentes externos conversando entre si. Cada integração é um ponto de falha. Em tarefas complexas como reservas de viagem (com 14 nós de decisão), a taxa de falha de roteamento por orquestradores externos pode chegar a 24%.

Bloat de tokens. A cada turno, o orquestrador re-injeta instruções, histórico e contexto. O consumo de tokens dispara porque as instruções mudam a cada passo — mas o modelo de fronteira é cobrado por cada token.

Exposição de propriedade intelectual. Suas procedures operacionais — a lógica de negócio da sua empresa — são enviadas em plain text para APIs de terceiros a cada chamada. Cada prompt de sistema contém seu workflow. Cada chamada expõe seu diferencial competitivo.

Como os autores do paper identificaram: a orquestração “fragmenta o raciocínio gerando apenas do contexto local de cada nó, introduz modos de falha de roteamento ausentes em arquiteturas não-orquestradas, e restringe a capacidade do modelo.”

Os Agentes Subterrâneos

A solução proposta é elegante: os Subterranean Agents (Agentes Subterrâneos). O processo funciona como compilação de software tradicional:

Passo 1: Defina o workflow como um grafo dirigido. Nós representam passos do procedimento (com templates de prompt, papel do agente/usuário), arestas representam transições. Um workflow de reserva de viagem tem 14 nós. Um de suporte técnico Zoom também tem 14. Um de processamento de seguros pode ter mais.

Passo 2: Gere milhares de conversas sintéticas. O sistema percorre o grafo e gera diálogos completos cobrindo todos os caminhos possíveis — incluindo edge cases, erros do usuário e exceções. É como criar um dataset de treinamento que simula todas as formas de interação que o agente encontrará em produção.

Passo 3: Fine-tune em um modelo menor. Essas conversas são usadas para ajustar um modelo compacto (3B a 8B parâmetros). O modelo internaliza o workflow inteiro — não como instruções no prompt, mas como pesos neurais.

Passo 4: Deploy sem orquestrador. Na produção, o modelo menor roda sozinho. Sem LangGraph. Sem CrewAI. Sem intermediários. O workflow está “assado” nos pesos. O modelo já sabe qual procedimento seguir, quais ferramentas chamar e como responder — porque viveu exatamente esse cenário durante o treinamento.

Os Números Que Justificam a Mudança

Os testes cobriram três domínios procedurais: reserva de viagens (14 nós), suporte técnico Zoom (14 nós com conhecimento de produto específico) e processamento de seguros.

Qualidade. Um modelo compilado de 3B venceu o mesmo modelo de 3B com orquestração explícita em 4 de 5 métricas de qualidade (p < 0,001). Contra modelos de fronteira 70x maiores, atingiu 87-98% da qualidade — uma faixa que para a maioria dos casos de uso empresariais é indistinguível.

Custo. 128 a 462x mais barato por requisição. Se você gasta $10.000/mês em API de fronteira para agentes orquestrados, o mesmo workflow compilado custa entre $21 e $78/mês.

Velocidade. 2,8x mais rápido em latência. Sem as múltiplas round-trips do orquestrador, a resposta chega mais rápido ao usuário.

Privacidade. O modelo roda local. Nenhum dado sai da sua infraestrutura. Nenhuma procedure operacional é exposta em plain text para APIs de terceiros.

A Objeção Óbvia (E a Resposta)

A pergunta imediata que todo arquiteto faz: “Se o workflow mudar, tenho que retreinar?”

Sim. Mas o ciclo é rápido. Os autores integraram a recompilação aos pipelines de CI/CD tradicionais. Se o workflow muda, o sistema gera novos dados sintéticos a partir do grafo atualizado e recompila o modelo menor em 30 a 50 minutos usando hardware de produção comum.

Não são meses. Não são semanas. São minutos. O modelo menor trata o workflow como um artefato compilável — assim como código compilado. Mudou o source? Recompile.

Onde Isso Funciona (E Onde Não Funciona)

Funciona brilhantemente para tarefas procedurais e estruturadas: atendimento ao cliente com scripts definidos, processamento de sinistros, onboarding de clientes, suporte técnico com árvores de decisão, workflows de aprovação, reservas e agendamentos.

Não funciona para tarefas que exigem decisões genuinamente imprevisíveis — pesquisa web aberta, resolução de problemas ambíguos, exploração criativa. Para isso, agentes com orquestração (ou com harnesses sofisticados como o SkillOpt) continuam sendo necessários.

A regra que eu propus no post sobre Agente vs Workflow se aplica perfeitamente aqui: se o fluxo é previsível, compile. Se é imprevisível, orquestre. E para a maioria dos workflows empresariais, o fluxo é previsível.

A Conexão Com a Série

Esse paper é a convergência de pelo menos quatro temas:

SkillOpt otimiza um arquivo .md sem tocar nos pesos. Subterranean Agents compilam o workflow nos pesos. São abordagens complementares no mesmo espectro: quanto mais processual a tarefa, mais profundamente você pode “assar” a lógica no modelo.

Agente vs Workflow: o paper confirma que para tarefas procedurais, agentes orquestrados são dominated — superados em custo, velocidade e frequentemente em qualidade por alternativas mais simples.

Fine-Tuning vs RAG: esse é um caso perfeito de fine-tuning justificado — quando o comportamento é fixo e processual, internalizar nos pesos supera drasticamente o fornecimento via prompt ou RAG.

95% dos projetos falham: muitos projetos enterprise usam modelos de fronteira caros para tarefas que um modelo compilado de 3B faria melhor. O desperdício é estrutural.

Conclusão: A IA Está Ficando Mais Enxuta

A arquitetura de software para IA está amadurecendo. O momento de usar modelos gigantescos e caros para carregar workflows simples através de loops de prompts externos está chegando ao fim.

Ao compilar a lógica de negócios diretamente na estrutura neural de modelos menores, as empresas conseguem o Santo Graal do desenvolvimento: o desempenho de uma IA de fronteira com o custo e a velocidade de um modelo local.

462x mais barato. 2,8x mais rápido. 87-98% da qualidade. Dados nunca saem da sua infra. Recompilação em 30 minutos.

Se você ainda usa LangGraph ou CrewAI para workflows procedurais, esse paper é o sinal para reconsiderar.

Compartilhe se isso mudou sua arquitetura:

290.000 estrelas no GitHub para frameworks de orquestração. E um paper acabou de provar que, para tarefas procedurais, eles são um desperdício de 462x.

Leia Também