Roteamento de Modelos Hermes

O que Roteamento de Modelos Hermes faz?

Configure o modelo Hermes, fallback e rotas auxiliares a partir da disponibilidade da conta ativa e do desempenho local medido. Otimize a rota configurada, não um ranking genérico.

Procedimento

1. Descubra o estado ativo antes de recomendar ou alterá-lo.

   • Carregue a skill hermes-agent, em seguida inspecione ~/.hermes/config.yaml, hermes auth list, hermes fallback list e hermes config check.
   • Inspecione o catálogo ou cache do seletor de modelo autenticado para IDs exatos de modelos gratuitos, registre seu tempo de atualização e trate a disponibilidade :free como volátil.
   • Consulte as tags ativas de cada endpoint local pretendido e use a tag exata que foi avaliada.

2. Estabeleça a política de rota.

   • Por padrão, use um modelo de nuvem gratuito atualmente disponível apenas para trabalho não sensível, quando essa for a política declarada do usuário.
   • Sempre forneça uma rota local explícita para repositórios proprietários, segredos, dados de clientes e imagens privadas; um padrão de nuvem não pode inferir sensibilidade de dados.
   • Coloque endpoints locais hospedados independentemente em fallback_providers ordenados; use provider: custom mais a URL base /v1 do endpoint para cada entrada.

3. Filtre e atribua modelos.

   • Avalie na janela de contexto que a rota Hermes eventual usará, preencha-a quase completamente e salve as taxas de prompt e decodificação separadamente.
   • Exclua qualquer candidato reprovado por tempo limite ou taxa de decodificação do ranking comparativo e de todas as rotas automáticas. Mencione-o apenas como provavelmente inadequado para aquele host/contexto, não como um julgamento da capacidade do modelo base.
   • Roteie compressão, curadoria e revisão para modelos locais capazes, pois eles podem receber contexto acumulado de conversa ou repositório.
   • Atribua modelos locais baratos para aprovação, geração de títulos e descrição de perfil somente após confirmar que seu desempenho em tarefas curtas é suficiente.
   • Use visão em nuvem apenas para imagens não privadas, com um fallback de visão local explícito quando disponível.

4. Produza um fragmento de configuração revisável.

   • Forneça o padrão, fallbacks ordenados e cada tarefa auxiliar como YAML concreto com valores exatos de provider/model/base URL.
   • Indique se o fragmento foi recomendado ou aplicado. Não edite o perfil ativo sem uma solicitação explícita.
   • Valide o YAML gerado; após uma edição aplicada, execute hermes config check e leia de volta hermes fallback list.

Armadilhas

• Configure uma fallback_chain auxiliar explícita quando um provedor principal for selecionado; o Hermes não gasta silenciosamente através de provedores autenticados não relacionados atrás de uma rota explícita.
• Use fallback_providers em vez da chave legada singular de fallback; a lista preserva a ordenação pretendida e é o que o gerenciador de fallback do Hermes escreve.
• Mantenha padrões de nuvem gratuita e rotas de dados privados distintos; a disponibilidade da conta não cria permissão para enviar entradas proprietárias externamente.
• Não coloque modelos excluídos pela filtragem de avaliação em fallbacks automáticos ou rotas auxiliares; um fallback que viola o limite operacional apenas move a falha para jusante.
• Preserve a tag exata do modelo na configuração; tags Ollama com nomes semelhantes podem diferir em contexto interno, template de prompt ou posicionamento.