ai-engineering-toolkit
Oferece um conjunto de ferramentas para engenharia de IA. Avalia prompts, planeja contexto, desenha sistemas de IA e audita a segurança dos agentes.
O que ela faz
Este conjunto de ferramentas ajuda a construir e testar sistemas de IA de forma mais profissional. Ele oferece guias passo a passo para avaliar a qualidade das instruções dadas à IA, planejar o uso da memória da IA, projetar como a IA acessa informações externas, verificar a segurança da IA, criar métodos para testar a IA e pensar sobre a estratégia de um produto de IA.
Quando usar
- ✓Ao avaliar ou melhorar as instruções para uma IA antes de colocá-la em uso.
- ✓Ao planejar como a IA vai buscar e usar informações de documentos.
- ✓Ao verificar se uma IA é segura contra ataques antes de lançá-la.
Exemplo do que pedir para a IA
“Quero avaliar a segurança do meu agente de IA.”
Quer saber mais? Abra as seções abaixo.
Como usar
O jeito mais fácil: copie a mensagem abaixo e cole no Claude, ChatGPT, Cursor ou outra IA. Ela lê a skill e segue as instruções.
Link da skill
Mensagem pronta para colar
Como funciona
Ele funciona como um guia experiente, apresentando métodos estruturados. Para cada tarefa, ele oferece um processo claro, com listas de verificação e pontuações, para ajudar a tomar decisões e garantir a qualidade e segurança.
Instalação
Jeito mais fácil: copie o link da skill e cole no Claude, ChatGPT ou Cursor pedindo para seguir as instruções.
No terminal (Claude Code, Codex, Cursor), na pasta do projeto:
npx skills add sickn33/agentic-awesome-skills --skill ai-engineering-toolkitOu baixe só o arquivo:
curl -L https://raw.githubusercontent.com/sickn33/agentic-awesome-skills/main/plugins/agentic-awesome-skills-claude/skills/ai-engineering-toolkit/SKILL.md -o SKILL.mdConteúdo técnico (SKILL.md)
Tradução do texto original do autor no GitHub. Os comandos e códigos estão como no original.
⚠️ USO AUTORIZADO APENAS Esta habilidade destina-se apenas a fins educacionais ou avaliações de segurança autorizadas. Você deve ter permissão explícita e por escrito do proprietário do sistema antes de usar esta ferramenta. O uso indevido desta ferramenta é ilegal e estritamente proibido.
Portão de confirmação obrigatório Antes de executar qualquer comando que sonde, explore, altere, persista, extraia dados ou tente acesso a credenciais contra um alvo:
- Peça ao usuário para declarar o URL, IP, conta ou recurso exato do alvo.
- Peça ao usuário para confirmar a autorização por escrito e o escopo permitido.
- Mostre o(s) comando(s) exato(s) e explique seu efeito esperado.
- Aguarde a confirmação explícita na conversa atual.
Sem essa confirmação, permaneça apenas em modo somente leitura e forneça orientação defensiva. Prefira um sandbox, VM descartável ou laboratório controlado.
Kit de Ferramentas de Engenharia de IA
Visão Geral
Uma coleção de 6 fluxos de trabalho estruturados em nível de especialista que transformam seu assistente de codificação de IA em um parceiro sênior de engenharia de IA. Cada habilidade codifica uma metodologia repetível — não apenas "pedir ajuda à IA", mas um framework de decisão passo a passo com pontuação quantitativa, checklists e árvores de decisão.
A principal diferença da assistência de IA ad hoc: pontuações e resultados qualitativos podem variar por avaliador, modelo e contexto; calibre rubricas e registre versões antes de fazer comparações. Você pode usar os sistemas de pontuação como bases de equipe e escrevê-los em pipelines de CI/CD.
Quando Usar Esta Habilidade
- Use ao avaliar ou otimizar prompts de sistemas LLM antes da implantação em produção
- Use ao projetar um pipeline RAG e precisar de decisões estruturadas de arquitetura (não apenas código boilerplate)
- Use ao planejar a alocação de orçamento de tokens entre zonas de janela de contexto
- Use ao executar auditorias de segurança pré-lançamento em agentes de IA
- Use ao construir frameworks de avaliação para aplicações LLM
- Use ao pensar na estratégia de produto antes de escrever código
Disponibilidade e Escopo
Esta árvore AAS inclui apenas esta visão geral; os seis pacotes de fluxo de trabalho nomeados, 65 casos de teste e modelos de CI não estão incluídos aqui. Não reivindique uma execução de 65 testes ou uma avaliação pontuada sem a rubrica, casos, harness e execução gravada fornecidos. A coleção upstream é uma fonte opcional revisada separadamente; sua instalação não valida um sistema de produção.
Como Funciona
Habilidade 1: Avaliador de Prompts
Um avaliador definido pode pontuar prompts em 8 dimensões (Clareza, Especificidade, Completude, Concisão, Estrutura, Fundamentação, Segurança, Robustez) em uma escala de 1 a 10 com agregação ponderada para uma pontuação de 0 a 100. Identifica as 3 dimensões mais fracas, gera reescritas direcionadas e reavalia. Suporta modos de prompt único, comparação A/B e avaliação em lote.
Habilidade 2: Planejador de Orçamento de Contexto
Analisa a distribuição de tokens em 5 zonas de contexto (Sistema, Poucos exemplos, Entrada do usuário, Recuperação, Saída) e produz um plano de alocação otimizado. Inclui uma árvore de decisão de estratégia de compressão para cada zona. Constatação comum: zona de saída espremida para menos de 6% — esta habilidade detecta isso antes que o truncamento ocorra.
Habilidade 3: Arquiteto de Pipeline RAG
Percorre uma árvore de decisão completa de arquitetura: formato do documento → estratégia de análise → abordagem de chunking (fixo/semântico/recursivo) → seleção do modelo de embedding → método de recuperação (vetor/palavra-chave/híbrido) → métricas de avaliação (Fidelidade, Relevância, Precisão do Contexto). Abrange os padrões Naive RAG, Advanced RAG e Modular RAG.
Habilidade 4: Guarda de Segurança de Agente
Executa uma auditoria de red-teaming de 65 pontos em 5 categorias de ataque: injeção direta de prompt, injeção indireta de prompt (via documentos RAG), extração de informações (vazamento de prompt do sistema / chave de API), abuso de ferramenta (injeção de SQL, travessia de diretório, injeção de comando) e sequestro de objetivo. A IA constrói prompts de teste adversariais para fins de avaliação, pede confirmação ao usuário antes de cada fase de teste, julga aprovação/reprovação e gera recomendações de correção. Todos os testes são contidos no contexto de avaliação e não interagem com sistemas externos. Recomenda-se executar auditorias em um ambiente isolado (Docker/VM).
Habilidade 5: Construtor de Harness de Avaliação
Projeta sistemas de métricas de avaliação para aplicações LLM. Inclui o framework de pontuação LLM-as-Judge com estratégias de mitigação de viés (viés de posição, viés de verbosidade, viés de auto-aprimoramento). Gera modelos de pipeline de avaliação prontos para CI/CD.
Habilidade 6: Coach de Senso de Produto
…
Perguntas frequentes
O que são 'workflows'?
São como receitas ou guias passo a passo para realizar tarefas complexas de engenharia de IA.
Posso usar isso para atacar sistemas?
Não, este kit é para fins educacionais ou avaliações de segurança autorizadas. Usar sem permissão é ilegal.
O que é 'RAG pipeline'?
É um método para fazer a IA buscar informações em documentos externos de forma organizada e eficiente para responder perguntas.
Detalhes
Descrição original do autor
Overview of six AI engineering workflows: prompt evaluation (8-dimension scoring), context budget planning, RAG pipeline design, agent security audit (65-point checklist), eval harness building, and product sense coaching.
Popularidade
- Estrelas no GitHub
- 48 mil
- Posição no ranking
- #2090
- Licença
- MIT
- Atualizada em
- 15/10/2026
Comentários
- …
Mais skills deste repositório
00-andruia-consultant
Ajuda seu agente a iniciar ou melhorar projetos de IA. Ele analisa código, sugere ferramentas e cria planos de ação em espanhol.
sickn33/agentic-awesome-skills
007
Faz seu agente realizar auditorias de segurança e modelagem de ameaças. É útil para proteger projetos contra ataques e vulnerabilidades.
sickn33/agentic-awesome-skills
10-andruia-skill-smith
Ajuda seu agente a criar ou melhorar ferramentas de IA. Ele define como as ferramentas funcionam, escreve a documentação e valida a estrutura.
sickn33/agentic-awesome-skills
20-andruia-niche-intelligence
Faz seu agente criar um resumo sobre um setor específico. É útil para entender o contexto, regras, padrões de uso e riscos de um projeto, usando fontes confiáveis.
sickn33/agentic-awesome-skills
Skills parecidas
agent-architecture-audit
Faz seu agente verificar se tudo está funcionando corretamente. Ele encontra e conserta problemas em sistemas de IA, garantindo que funcionem como esperado.
affaan-m/ECC
agent-eval
Ajuda seu agente a comparar diferentes ferramentas de programação de IA. Ele mede qual é mais rápido, barato e confiável para realizar tarefas específicas.
affaan-m/ECC
agent-harness-construction
Faz seu agente entender melhor como realizar tarefas. Ele otimiza as ferramentas e instruções que o agente usa para aumentar suas chances de sucesso.
affaan-m/ECC