Conselho LLM (Fireworks AI)

Guia Detalhado

Leia o guia detalhado antes de executar esta habilidade. Ele contém o procedimento completo e o material de referência. Trate seus requisitos de segurança, pré-requisitos e validação como obrigatórios. Para um trabalho focado, carregue as seções relevantes; para um trabalho de ponta a ponta, leia o guia completamente.

Quando Usar

Use quando este fluxo de trabalho corresponder à solicitação do usuário: Use esta habilidade para o seu fluxo de trabalho documentado.

Fonte: dair-ai/dair-academy-plugins (MIT).

Esta habilidade implementa o conceito de Karpathy de Conselho LLM, onde múltiplos LLMs de peso aberto deliberam sobre uma consulta, totalmente impulsionados pela Fireworks AI:

1. Fase 1: Todos os modelos respondem à consulta independentemente (em paralelo)
2. Fase 2: Os modelos classificam as respostas anonimizadas uns dos outros
3. Fase 3: Um LLM Presidente sintetiza a resposta final

Toda a inferência é feita através da Fireworks AI usando modelos de peso aberto. A velocidade e o preço da Fireworks tornam prático executar deliberações multi-modelo que seriam lentas ou caras em outros provedores.

REGRAS CRÍTICAS

1. SEMPRE use AskUserQuestion para permitir que o usuário selecione os modelos do conselho (seleção múltipla) e o modelo Presidente.
2. SEMPRE salve as respostas brutas em arquivos - nunca resuma ou trunque as saídas da API.
3. SEMPRE mostre total transparência - exiba todas as respostas individuais, todas as classificações E a síntese final.
4. NUNCA pule a fase de classificação - ela é essencial para o processo de deliberação do conselho.
5. Leia de arquivos para exibição - garante que o conteúdo seja mostrado sem modificações.
6. SEMPRE exiba a saída final para o usuário após a conclusão da Fase 3.

Limitações

• Requer a ferramenta upstream, conta, chave de API ou configuração local quando o nome do fluxo de trabalho indicar.
• Não autoriza ações destrutivas, de produção, pagas ou de mensagens externas sem aprovação explícita do usuário.
• Valide artefatos ou recomendações geradas contra as fontes reais do usuário antes de tratá-las como finais.