Pular para o conteúdo
Skillpedia
Agentes41 mil · #4895

checkpoint-promotion

Ajuda a decidir se um modelo de IA aprimorado está pronto para ser usado. Garante que o modelo funcione bem antes de ser liberado, evitando problemas.

O que ela faz

Esta ferramenta verifica se um modelo de inteligência artificial (IA) treinado está pronto para ser usado publicamente. Ela faz isso testando o modelo em várias áreas para garantir que ele não piorou em tarefas gerais e que não memorizou dados de teste.

Quando usar

  • ✓Após treinar um novo modelo de IA.
  • ✓Ao decidir se um modelo já treinado pode ser liberado.
  • ✓Quando um modelo liberado precisa ser verificado novamente contra novos dados.

Exemplo do que pedir para a IA

“Verifique se este modelo treinado está pronto para ser promovido.”

Quer saber mais? Abra as seções abaixo.

Como usar

O jeito mais fácil: copie a mensagem abaixo e cole no Claude, ChatGPT, Cursor ou outra IA. Ela lê a skill e segue as instruções.

Link da skill

https://github.com/wshobson/agents/blob/main/plugins/llm-finetuning/skills/checkpoint-promotion/SKILL.md

Mensagem pronta para colar

Use esta skill para me ajudar: https://github.com/wshobson/agents/blob/main/plugins/llm-finetuning/skills/checkpoint-promotion/SKILL.md Leia o arquivo SKILL.md desse link e siga as instruções dele na minha tarefa.
Como funciona

O modelo passa por quatro verificações: qualidade dos dados de treinamento, desempenho em tarefas gerais comparado a um modelo base, comparação direta com um modelo base em tarefas específicas e um teste final em pequena escala. Se falhar em qualquer etapa, ele é rejeitado.

Instalação

Jeito mais fácil: copie o link da skill e cole no Claude, ChatGPT ou Cursor pedindo para seguir as instruções.

No terminal (Claude Code, Codex, Cursor), na pasta do projeto:

npx skills add wshobson/agents --skill checkpoint-promotion

Ou baixe só o arquivo:

curl -L https://raw.githubusercontent.com/wshobson/agents/main/plugins/llm-finetuning/skills/checkpoint-promotion/SKILL.md -o SKILL.md
Conteúdo técnico (SKILL.md)

Tradução do texto original do autor no GitHub. Os comandos e códigos estão como no original.

Promoção de Checkpoint

A fase 5 para o plugin inteiro: um checkpoint que treina de forma limpa e supera sua métrica de tarefa ainda não é lançado sem passar por todas as quatro etapas abaixo. eval-harness-first construiu a suíte de reexecução aqui — esta habilidade é onde a linha de base dessa suíte decide algo.

Entrada: um checkpoint treinado, eval/baseline-<model>.json de eval-harness-first e o eval/drift-suite.yaml congelado. Formato de Saída: promotion-report.md — as evidências das quatro etapas mais um veredito terminal PROMOTE ou REJECT que /finetune a Fase 5 e /promote-checkpoint consomem diretamente.

O Portão de Quatro Etapas

Cada etapa controla a próxima — uma falha na etapa 2 significa que a etapa 3 não é executada. As etapas 2 e 3 compartilham uma passagem de inferência cara, então executá-las simultaneamente e aplicar a ordem do portão no momento do veredito é licenciado em uma arena determinística (nada é economizado pela serialização); uma arena baseada em juiz ainda deve esperar pela etapa 2 primeiro — é aí que as economias reais estão.

  1. Portão de qualidade de dados. Antes que qualquer avaliação toque no checkpoint: deduplique o conjunto de treinamento, verifique o vazamento de goldens de avaliação (a falha exata trace-to-training-data's seção de Higiene existe para prevenir) e escaneie por ruído de rótulo. Um checkpoint treinado em goldens vazados invalida todas as etapas posteriores.
  2. Suíte de capacidade-deriva retida + congelada. Reexecute eval-harness-first's eval/drift-suite.yaml — MMLU/GSM8K/IFEval mais 200–500 itens adjacentes ao domínio — contra o checkpoint e compare com baseline-<model>.json por benchmark contra a tabela de Orçamento de Deriva abaixo.
  3. Arena pareada vs. base. Juiz com posição randomizada, checkpoint vs. modelo base, mesmos prompts — ou a variante determinística de comparação pareada em references/gate-templates.md quando cada avaliador no sistema é determinístico (sem juiz LLM; randomização de posição N/A lá). Uma vitória na retenção que perde na arena ao vivo não é lançada — os números da etapa 2 e os julgamentos da etapa 3 devem concordar; uma vitória em goldens congelados e uma derrota na comparação pareada é um sinal real, não uma discrepância para explicar.
  4. Canário. Rollout estratificado de 5–10% com rollback automático para qualquer checkpoint que atinja o tráfego de produção. Usuários apenas locais param na etapa 3 — pular a etapa 4 para uma implantação local é o ponto de parada correto, não um atalho.

Orçamento de Deriva

Deriva (pts) Veredito
≤1 Ruído — prossiga
2–5 Reexecute com variação de semente antes de decidir
>5 FALHA GRAVE — sem exceção para ganhos de tarefa

A linha >5pts governa independentemente das outras: um checkpoint que ganhou 8 pontos na tarefa alvo e perdeu 6 pontos de capacidade geral ainda falha aqui — a melhoria da tarefa nunca compensa uma violação do orçamento de deriva.

A contagem de itens deriva do orçamento, não da conveniência: o n estrito para uma meia-largura abaixo da metade do limite de falha grave de 5pts é ~1.300 com precisão típica (p≈0.7); n=200 é um piso pragmático (±6pt meia-largura com o mesmo p, n=50 ±13pt) — relate a meia-largura com cada veredito, e trate uma margem menor que ela como REJECT (uncertain), não PASSAR/FALHA GRAVE. Matemática completa e um exemplo de cautela de 5 execuções: references/gate-templates.md.

REEXECUÇÃO não é um veredito. Uma deriva de 2–5pts só produz um PROMOTE ou REJECT após a conclusão da reexecução com variação de semente — PROMOTE requer pousar de volta em ≤1pt (ruído); qualquer reexecução ainda >1pt — banda de 2–5pts ou violação >5pts — resolve a etapa 2 para uma REJECT grave. Nenhum relatório pode chegar à seção de Veredito com a etapa 2 ainda mostrando RERUN.

Esquecimento Catastrófico

O ajuste fino de LoRA não gerenciado perde capacidade geral real, e a etapa 2 é o que o detecta:

  • ~43% de perda de conhecimento não gerenciado — sem replay, sem regularização.
  • ~10% com gerenciamento básico — algum replay ou um LR conservador.
  • ~3% com replay + EWC — o caso disciplinado.
  • Mistura de replay de dados gerais de 10–30% é a mitigação padrão — misture dados de domínio geral no treinamento em vez de apenas dados da tarefa alvo.

Se um checkpoint atingir a falha grave >5pts na etapa 2, trabalhe nesta escada de escalonamento em ordem — a ordem canônica única para a qual esta habilidade e references/gate-templates.md apontam:

  1. Ajuste a fração da mistura de replay — troque linhas, não as adicione (adicionar confunde a fração com os passos totais do otimizador). A dose não é monotônica em escala de pequena execução (<~100 passos) — verifique novamente a deriva após qualquer troca.

…

Perguntas frequentes

O que é 'drift'?

É quando um modelo de IA, ao ser treinado para uma tarefa específica, piora em outras tarefas gerais que ele sabia fazer antes.

O que é 'leakage' (vazamento)?

Acontece quando dados usados para testar o modelo acabam sendo incluídos nos dados de treinamento, o que pode inflar artificialmente os resultados.

O que acontece se o modelo falhar nos testes?

O modelo é rejeitado e pode ser necessário ajustá-lo ou retreiná-lo, seguindo as recomendações da ferramenta.

Detalhes

Descrição original do autor

Gate fine-tuned checkpoints with drift budgets, paired comparison, and forgetting checks before promotion. Use after a training run produces a checkpoint, when deciding whether a tuned model ships, or when a promoted model needs re-gating against updated goldens.

repo: wshobson/agents

Popularidade

Estrelas no GitHub
41 mil
Posição no ranking
#4895
Licença
MIT
Atualizada em
15/10/2026

Essa skill é útil?

0

Entre para votar.

Comentários

  • …

Mais skills deste repositório

Skills parecidas