Infraestrutura de Agentes Hospedados

Agentes hospedados rodam em ambientes isolados (sandboxed) remotos, em vez de em máquinas locais. Quando bem projetados, oferecem concorrência ilimitada, ambientes de execução consistentes e colaboração multiplayer. A ideia principal é que a velocidade da sessão seja limitada apenas pelo tempo de resposta do provedor do modelo para o primeiro token, com toda a configuração da infraestrutura concluída antes que o usuário inicie sua sessão.

Quando Usar

Ative esta funcionalidade quando:

• Estiver construindo agentes de codificação em segundo plano que rodam independentemente dos dispositivos do usuário
• Estiver projetando ambientes de execução isolados (sandboxed) para cargas de trabalho de agentes
• Estiver implementando sessões de agentes multiplayer com estado compartilhado
• Estiver criando interfaces de agentes multi-cliente (Slack, Web, extensões do Chrome)
• Estiver escalando a infraestrutura de agentes além das limitações de máquinas locais
• Estiver construindo sistemas onde agentes geram sub-agentes para trabalho paralelo

Conceitos Principais

Agentes hospedados resolvem a limitação fundamental da execução de agentes locais: contenção de recursos, inconsistência de ambiente e restrições de usuário único. Ao mover a execução do agente para ambientes remotos isolados, as equipes ganham concorrência ilimitada, ambientes reproduzíveis e fluxos de trabalho colaborativos.

A arquitetura consiste em três camadas: infraestrutura de sandbox para execução isolada, camada de API para gerenciamento de estado e coordenação de clientes, e interfaces de cliente para interação do usuário em diversas plataformas. Cada camada tem requisitos de design específicos que permitem que o sistema escale.

Tópicos Detalhados

Infraestrutura de Sandbox

O Desafio Central Iniciar ambientes de desenvolvimento completos rapidamente é o principal desafio técnico. Os usuários esperam inícios de sessão quase instantâneos, mas ambientes de desenvolvimento exigem clonagem de repositórios, instalação de dependências e execução de etapas de build.

Padrão de Registro de Imagens Pré-construa imagens de ambiente em uma cadência regular (a cada 30 minutos funciona bem). Cada imagem contém:

• Repositório clonado em um commit conhecido
• Todas as dependências de tempo de execução instaladas
• Comandos iniciais de configuração e build concluídos
• Arquivos em cache da execução do aplicativo e da suíte de testes uma vez

Ao iniciar uma sessão, inicie um sandbox a partir da imagem mais recente. O repositório terá no máximo 30 minutos de atraso, tornando a sincronização com o código mais recente muito mais rápida.

Snapshot e Restauração Tire snapshots do sistema de arquivos em pontos chave:

• Após a construção inicial da imagem (snapshot base)
• Quando o agente terminar de fazer alterações (snapshot da sessão)
• Antes da saída do sandbox para possível acompanhamento

Isso permite a restauração instantânea para prompts de acompanhamento sem reexecutar a configuração.

Configuração do Git para Agentes em Segundo Plano Como as operações do git não estão vinculadas a um usuário específico durante a construção das imagens:

• Gere tokens de instalação do aplicativo GitHub para acesso ao repositório durante a clonagem
• Atualize a configuração do git user.name e user.email ao confirmar e enviar alterações
• Use a identidade do usuário que está solicitando para commits, não a identidade do aplicativo

Estratégia de Pool Aquecido (Warm Pool) Mantenha um pool de sandboxes pré-aquecidos para repositórios de alto volume:

• Sandboxes estão prontos antes que os usuários iniciem suas sessões
• Expire e recrie entradas do pool à medida que novas compilações de imagem são concluídas
• Comece a aquecer o sandbox assim que o usuário começar a digitar (aquecimento preditivo)

Seleção do Framework do Agente

Arquitetura Server-First Escolha um framework de agente estruturado como um servidor primeiro, com aplicativos TUI e desktop como clientes. Isso permite:

• Múltiplos clientes personalizados sem duplicar a lógica do agente
• Comportamento consistente em todas as superfícies de interação
• Sistemas de plugins para estender a funcionalidade
• Arquiteturas orientadas a eventos para atualizações em tempo real

Código como Fonte da Verdade Selecione frameworks onde o agente possa ler seu próprio código-fonte para entender o comportamento. Isso é subestimado no desenvolvimento de IA: ter o código como fonte da verdade evita alucinações sobre as próprias capacidades do agente.

Requisitos do Sistema de Plugins O framework deve suportar plugins que:

• Escutem eventos de execução de ferramentas (por exemplo, tool.execute.before)
• Bloqueiem ou modifiquem chamadas de ferramentas condicionalmente
• Injetem contexto ou estado em tempo de execução

Otimizações de Velocidade

Aquecimento Preditivo Comece a aquecer o sandbox assim que um usuário começar a digitar seu prompt:

• Clone as alterações mais recentes em paralelo com a digitação do usuário
• Execute a configuração inicial antes que o usuário pressione Enter
• Para inicialização rápida, o sandbox pode estar pronto antes que o usuário termine de digitar

Leitura Paralela de Arquivos Permita que o agente comece a ler arquivos imediatamente, mesmo que a sincronização com o branch base mais recente não esteja completa:

…