Apartment38/Agent-Skills - Enrutamiento de Modelos Hermes

Enrutamiento de Modelos Hermes

Configura el modelo Hermes, las rutas de respaldo y las rutas auxiliares basándose en la disponibilidad de cuentas en vivo y el rendimiento local medido. Optimiza la ruta configurada, no un ranking genérico.

Procedimiento

1. Descubre el estado activo antes de recomendar o cambiarlo.

   • Carga la habilidad hermes-agent, luego inspecciona ~/.hermes/config.yaml, hermes auth list, hermes fallback list y hermes config check.
   • Inspecciona el catálogo o la caché del selector de modelos autenticados para obtener los IDs exactos de los modelos gratuitos, registra su hora de actualización y trata la disponibilidad :free como volátil.
   • Consulta las etiquetas en vivo de cada endpoint local previsto y usa la etiqueta exacta que fue evaluada.

2. Establece la política de enrutamiento.

   • Por defecto, usa un modelo en la nube gratuito actualmente disponible solo para trabajo no sensible, cuando esa sea la política declarada por el usuario.
   • Siempre proporciona una ruta local explícita para repositorios propietarios, secretos, datos de clientes e imágenes privadas; un valor predeterminado en la nube no puede inferir la sensibilidad de los datos.
   • Coloca los endpoints locales alojados de forma independiente en fallback_providers ordenados; usa provider: custom junto con la URL base /v1 del endpoint para cada entrada.

3. Filtra y asigna modelos.

   • Evalúa el rendimiento con el tamaño de ventana de contexto que usará la ruta Hermes final, llénala casi por completo y guarda las tasas de prompt y decode por separado.
   • Excluye de la clasificación comparativa y de todas las rutas automáticas cualquier candidato que sea descartado por tiempo de espera o rendimiento de decode. Menciónalo solo como probablemente inadecuado para ese host/contexto, no como un juicio sobre la capacidad del modelo base.
   • Enruta la compresión, el curador y la revisión a modelos locales capaces, ya que pueden recibir el contexto acumulado de la conversación o del repositorio.
   • Asigna modelos locales económicos a la aprobación, generación de títulos y descripciones de perfil solo después de confirmar que su rendimiento en tareas cortas es suficiente.
   • Usa visión en la nube solo para imágenes no privadas, con un respaldo de visión local explícito cuando esté disponible.

4. Produce un fragmento de configuración revisable.

   • Proporciona el valor predeterminado, los respaldos ordenados y cada tarea auxiliar como YAML concreto con los valores exactos de provider/modelo/URL base.
   • Indica si el fragmento fue recomendado o aplicado. No edites el perfil activo sin una solicitud explícita.
   • Valida el YAML generado; después de una edición aplicada, ejecuta hermes config check y lee de nuevo hermes fallback list.

Errores Comunes

• Configura una fallback_chain auxiliar explícita cuando se selecciona un proveedor principal; Hermes no gasta en silencio a través de proveedores autenticados no relacionados detrás de una ruta explícita.
• Usa fallback_providers en lugar de la clave singular heredada de respaldo; la lista preserva el orden previsto y es lo que escribe el gestor de respaldos de Hermes.
• Mantén distintos los valores predeterminados de nube gratuita y las rutas de datos privados; la disponibilidad de la cuenta no crea permiso para enviar entradas propietarias externamente.
• No coloques modelos excluidos por el filtro de evaluación comparativa en respaldos automáticos o rutas auxiliares; un respaldo que viola el umbral operativo simplemente traslada la interrupción río abajo.
• Preserva la etiqueta exacta del modelo en la configuración; las etiquetas de Ollama con nombres similares pueden diferir en el contexto horneado, la plantilla de indicaciones o la ubicación.