checkpoint-promotion
Ajuda a decidir se um modelo de IA aprimorado está pronto para ser usado. Garante que o modelo funcione bem antes de ser liberado, evitando problemas.
O que ela faz
Esta ferramenta verifica se um modelo de inteligência artificial (IA) treinado está pronto para ser usado publicamente. Ela faz isso testando o modelo em várias áreas para garantir que ele não piorou em tarefas gerais e que não memorizou dados de teste.
Quando usar
- ✓Após treinar um novo modelo de IA.
- ✓Ao decidir se um modelo já treinado pode ser liberado.
- ✓Quando um modelo liberado precisa ser verificado novamente contra novos dados.
Exemplo do que pedir para a IA
“Verifique se este modelo treinado está pronto para ser promovido.”
Quer saber mais? Abra as seções abaixo.
Como usar
O jeito mais fácil: copie a mensagem abaixo e cole no Claude, ChatGPT, Cursor ou outra IA. Ela lê a skill e segue as instruções.
Link da skill
Mensagem pronta para colar
Como funciona
O modelo passa por quatro verificações: qualidade dos dados de treinamento, desempenho em tarefas gerais comparado a um modelo base, comparação direta com um modelo base em tarefas específicas e um teste final em pequena escala. Se falhar em qualquer etapa, ele é rejeitado.
Instalação
Jeito mais fácil: copie o link da skill e cole no Claude, ChatGPT ou Cursor pedindo para seguir as instruções.
No terminal (Claude Code, Codex, Cursor), na pasta do projeto:
npx skills add wshobson/agents --skill checkpoint-promotionOu baixe só o arquivo:
curl -L https://raw.githubusercontent.com/wshobson/agents/main/plugins/llm-finetuning/skills/checkpoint-promotion/SKILL.md -o SKILL.mdConteúdo técnico (SKILL.md)
Tradução do texto original do autor no GitHub. Os comandos e códigos estão como no original.
Promoção de Checkpoint
A fase 5 para o plugin inteiro: um checkpoint que treina de forma limpa e supera sua métrica de tarefa ainda não é lançado sem passar por todas as quatro etapas abaixo. eval-harness-first construiu a suíte de reexecução aqui — esta habilidade é onde a linha de base dessa suíte decide algo.
Entrada: um checkpoint treinado, eval/baseline-<model>.json de eval-harness-first e o eval/drift-suite.yaml congelado.
Formato de Saída: promotion-report.md — as evidências das quatro etapas mais um veredito terminal PROMOTE ou REJECT que /finetune a Fase 5 e /promote-checkpoint consomem diretamente.
O Portão de Quatro Etapas
Cada etapa controla a próxima — uma falha na etapa 2 significa que a etapa 3 não é executada. As etapas 2 e 3 compartilham uma passagem de inferência cara, então executá-las simultaneamente e aplicar a ordem do portão no momento do veredito é licenciado em uma arena determinística (nada é economizado pela serialização); uma arena baseada em juiz ainda deve esperar pela etapa 2 primeiro — é aí que as economias reais estão.
- Portão de qualidade de dados. Antes que qualquer avaliação toque no checkpoint: deduplique o conjunto de treinamento, verifique o vazamento de goldens de avaliação (a falha exata
trace-to-training-data's seção de Higiene existe para prevenir) e escaneie por ruído de rótulo. Um checkpoint treinado em goldens vazados invalida todas as etapas posteriores. - Suíte de capacidade-deriva retida + congelada. Reexecute
eval-harness-first'seval/drift-suite.yaml— MMLU/GSM8K/IFEval mais 200–500 itens adjacentes ao domínio — contra o checkpoint e compare combaseline-<model>.jsonpor benchmark contra a tabela de Orçamento de Deriva abaixo. - Arena pareada vs. base. Juiz com posição randomizada, checkpoint vs. modelo base, mesmos prompts — ou a variante determinística de comparação pareada em
references/gate-templates.mdquando cada avaliador no sistema é determinístico (sem juiz LLM; randomização de posição N/A lá). Uma vitória na retenção que perde na arena ao vivo não é lançada — os números da etapa 2 e os julgamentos da etapa 3 devem concordar; uma vitória em goldens congelados e uma derrota na comparação pareada é um sinal real, não uma discrepância para explicar. - Canário. Rollout estratificado de 5–10% com rollback automático para qualquer checkpoint que atinja o tráfego de produção. Usuários apenas locais param na etapa 3 — pular a etapa 4 para uma implantação local é o ponto de parada correto, não um atalho.
Orçamento de Deriva
| Deriva (pts) | Veredito |
|---|---|
| ≤1 | Ruído — prossiga |
| 2–5 | Reexecute com variação de semente antes de decidir |
| >5 | FALHA GRAVE — sem exceção para ganhos de tarefa |
A linha >5pts governa independentemente das outras: um checkpoint que ganhou 8 pontos na tarefa alvo e perdeu 6 pontos de capacidade geral ainda falha aqui — a melhoria da tarefa nunca compensa uma violação do orçamento de deriva.
A contagem de itens deriva do orçamento, não da conveniência: o n estrito para uma meia-largura abaixo da metade do limite de falha grave de 5pts é ~1.300 com precisão típica (p≈0.7); n=200 é um piso pragmático (±6pt meia-largura com o mesmo p, n=50 ±13pt) — relate a meia-largura com cada veredito, e trate uma margem menor que ela como REJECT (uncertain), não PASSAR/FALHA GRAVE. Matemática completa e um exemplo de cautela de 5 execuções: references/gate-templates.md.
REEXECUÇÃO não é um veredito. Uma deriva de 2–5pts só produz um PROMOTE ou REJECT após a conclusão da reexecução com variação de semente — PROMOTE requer pousar de volta em ≤1pt (ruído); qualquer reexecução ainda >1pt — banda de 2–5pts ou violação >5pts — resolve a etapa 2 para uma REJECT grave. Nenhum relatório pode chegar à seção de Veredito com a etapa 2 ainda mostrando RERUN.
Esquecimento Catastrófico
O ajuste fino de LoRA não gerenciado perde capacidade geral real, e a etapa 2 é o que o detecta:
- ~43% de perda de conhecimento não gerenciado — sem replay, sem regularização.
- ~10% com gerenciamento básico — algum replay ou um LR conservador.
- ~3% com replay + EWC — o caso disciplinado.
- Mistura de replay de dados gerais de 10–30% é a mitigação padrão — misture dados de domínio geral no treinamento em vez de apenas dados da tarefa alvo.
Se um checkpoint atingir a falha grave >5pts na etapa 2, trabalhe nesta escada de escalonamento em ordem — a ordem canônica única para a qual esta habilidade e references/gate-templates.md apontam:
- Ajuste a fração da mistura de replay — troque linhas, não as adicione (adicionar confunde a fração com os passos totais do otimizador). A dose não é monotônica em escala de pequena execução (<~100 passos) — verifique novamente a deriva após qualquer troca.
…
Perguntas frequentes
O que é 'drift'?
É quando um modelo de IA, ao ser treinado para uma tarefa específica, piora em outras tarefas gerais que ele sabia fazer antes.
O que é 'leakage' (vazamento)?
Acontece quando dados usados para testar o modelo acabam sendo incluídos nos dados de treinamento, o que pode inflar artificialmente os resultados.
O que acontece se o modelo falhar nos testes?
O modelo é rejeitado e pode ser necessário ajustá-lo ou retreiná-lo, seguindo as recomendações da ferramenta.
Detalhes
Descrição original do autor
Gate fine-tuned checkpoints with drift budgets, paired comparison, and forgetting checks before promotion. Use after a training run produces a checkpoint, when deciding whether a tuned model ships, or when a promoted model needs re-gating against updated goldens.
repo: wshobson/agents
Popularidade
- Estrelas no GitHub
- 41 mil
- Posição no ranking
- #4895
- Licença
- MIT
- Atualizada em
- 15/10/2026
Comentários
- …
Mais skills deste repositório
screen-reader-testing
Faz seu agente testar sites usando leitores de tela para garantir que sejam acessíveis.
wshobson/agents
wcag-audit-patterns
Ajuda seu agente a auditar sites para acessibilidade e corrigir problemas de acordo com as diretrizes WCAG.
wshobson/agents
multi-reviewer-patterns
Faz seu agente coordenar revisões de código paralelas, deduplicando achados e consolidando relatórios.
wshobson/agents
parallel-debugging
Permite ao agente depurar problemas complexos com investigações paralelas e análise de causa raiz.
wshobson/agents
Skills parecidas
agent-architecture-audit
Faz seu agente verificar se tudo está funcionando corretamente. Ele encontra e conserta problemas em sistemas de IA, garantindo que funcionem como esperado.
affaan-m/ECC
agent-eval
Ajuda seu agente a comparar diferentes ferramentas de programação de IA. Ele mede qual é mais rápido, barato e confiável para realizar tarefas específicas.
affaan-m/ECC
agent-harness-construction
Faz seu agente entender melhor como realizar tarefas. Ele otimiza as ferramentas e instruções que o agente usa para aumentar suas chances de sucesso.
affaan-m/ECC