🤖 Padrões de Aplicação de LLM

Esboços de arquitetura e integração para aplicações de LLM, com limites explícitos de recuperação, ferramentas, privacidade e verificação.

Guia Detalhado

Leia o guia detalhado antes de executar esta habilidade. Ele contém o procedimento completo e o material de referência. Trate seus requisitos de segurança, pré-requisitos e validação como obrigatórios. Para trabalho focado, carregue as seções relevantes; para trabalho de ponta a ponta, leia o guia completamente.

Quando Usar Esta Habilidade

Use esta habilidade quando:

• Projetando aplicações com LLM
• Implementando RAG (Retrieval-Augmented Generation)
• Construindo agentes de IA com ferramentas
• Configurando monitoramento de LLMOps
• Escolhendo entre arquiteturas de agentes

Entradas, exemplo de trabalho e verificação

Registre as versões do provedor/SDK, dados e ferramentas autorizados, esquemas de solicitação/resposta, orçamentos de latência/custo e o resultado esperado da tarefa. Todo o código acima é um esboço de integração: llm, banco de dados, parser e adaptadores de resposta do provedor são de propriedade do projeto e devem ser implementados explicitamente. Nunca execute Python, expressões ou nomes de ferramentas imprecisos fornecidos pelo modelo; envie apenas ferramentas registradas exatas após verificações de esquema e autorização. Aplique prazos por chamada, bem como limites de loop.

Exemplo: um planejador primeiro enfileira os passos A e B, e depois que A é executado, substitui o trabalho restante por C. O executor deve executar A e depois C, nunca o B obsoleto. Um passo de parser deve aplicar o parser à saída anterior real. Dois inquilinos com o mesmo prompt devem produzir chaves de cache diferentes, e leituras/escritas de cache exigem uma política de reutilização explícita. Estas são asserções concretas de regressão; mocks bem-sucedidos ainda não provam o comportamento do provedor em tempo real.

O esboço do limitador é single-threaded e local ao processo. Uma implantação distribuída precisa de um limite atômico compartilhado e prazos. Tente novamente apenas operações seguras para retentativa, honrando a orientação de retentativa do provedor; um timeout após um efeito colateral não é evidência de que nada aconteceu. Veja Predicados de retentativa Tenacity.

Limitações

• Uma lista de fontes recuperada não prova que cada afirmação da resposta é suportada; verifique a evidência de afirmação para fonte e o comportamento de abstenção.
• O texto do prompt e a saída em formato JSON não são limites de autorização. Aplique permissões na aplicação.
• O failover do provedor pode alterar a qualidade da saída, esquemas de ferramentas, custo e residência de dados; use apenas fallbacks compatíveis pré-aprovados.
• O cache deve respeitar o acesso do inquilino, revisões de dados/prompt e política de exclusão; temperatura zero não torna a saída determinística.
• Exemplos de modelo/SDK não são um serviço completo, benchmark ou certificado de prontidão para produção.