Apartment38/Agent-Skills

Hermes-Modell-Routing

Konfiguriere Hermes-Modell-, Fallback- und Hilfsrouten basierend auf Live-Kontoverfügbarkeit und gemessener lokaler Leistung. Optimiere die konfigurierte Route, nicht eine generische Bestenliste.

Vorgehen

1. Erkunde den aktiven Zustand, bevor du eine Änderung empfiehlst oder vornimmst.

   • Lade die Fähigkeit hermes-agent und inspiziere dann ~/.hermes/config.yaml, hermes auth list, hermes fallback list und hermes config check.
   • Inspiziere den authentifizierten Modell-Auswahlkatalog oder -Cache auf exakte freie Modell-IDs, notiere die Aktualisierungszeit und behandle :free-Verfügbarkeit als volatil.
   • Frage jeden vorgesehenen lokalen Endpunkt nach Live-Tags ab und verwende das genaue Tag, das benchmarked wurde.

2. Lege die Routenrichtlinie fest.

   • Verwende standardmäßig ein derzeit verfügbares kostenloses Cloud-Modell nur für nicht sensible Arbeiten, wenn dies die erklärte Richtlinie des Benutzers ist.
   • Stelle immer eine explizite lokale Route für proprietäre Repositories, Geheimnisse, Kundendaten und private Bilder bereit; ein Cloud-Standard kann die Daten sensibilität nicht ableiten.
   • Setze unabhängig gehostete lokale Endpunkte in geordnete fallback_providers; verwende für jeden Eintrag provider: custom plus die /v1-Basis-URL des Endpunkts.

3. Sperre und weise Modelle zu.

   • Führe Benchmarks bei der Kontextfenstergröße durch, die die endgültige Hermes-Route verwenden wird, fülle es fast vollständig und speichere Prompt- und Dekodierungsraten getrennt.
   • Schließe jeden Kandidaten, der aufgrund von Timeout oder Dekodierungsdurchsatz gesperrt wurde, vom vergleichenden Ranking und allen automatischen Routen aus. Erwähne ihn nur als wahrscheinlich ungeeignet für diesen Host/Kontext, nicht als Urteil über die Fähigkeit des Basismodells.
   • Leite Komprimierung, Kurator und Überprüfung an fähige lokale Modelle weiter, da sie akkumulierten Konversations- oder Repository-Kontext empfangen können.
   • Weise kostengünstige lokale Modelle nur dann für Genehmigung, Titelerzeugung und Profilbeschreibung zu, wenn deren Kurzaufgabenleistung als ausreichend bestätigt wurde.
   • Verwende Cloud-Vision nur für nicht-private Bilder, mit einem expliziten lokalen Vision-Fallback, falls verfügbar.

4. Erstelle ein überprüfbares Konfigurationsfragment.

   • Gib den Standard, geordnete Fallbacks und jede Hilfsaufgabe als konkretes YAML mit genauen Provider/Modell/Basis-URL-Werten an.
   • Gib an, ob das Fragment empfohlen oder angewendet wurde. Bearbeite das aktive Profil nicht ohne explizite Aufforderung.
   • Validiere das erzeugte YAML; führe nach einer angewendeten Bearbeitung hermes config check aus und lies hermes fallback list zurück.

Fallstricke

• Konfiguriere eine explizite Hilfs-fallback_chain, wenn ein primärer Provider ausgewählt ist; Hermes gibt nicht stillschweigend Mittel über nicht verwandte authentifizierte Provider hinter einer expliziten Route aus.
• Verwende fallback_providers anstelle des veralteten singulären Fallback-Schlüssels; die Liste bewahrt die beabsichtigte Reihenfolge und wird vom Hermes-Fallback-Manager geschrieben.
• Halte kostenlose Cloud-Standards und private Datenrouten getrennt; Kontoverfügbarkeit schafft keine Berechtigung, proprietäre Eingaben extern zu senden.
• Platziere keine Modelle, die durch die Benchmark-Sperre ausgeschlossen wurden, in automatischen Fallbacks oder Hilfsrouten; ein Fallback, der die Betriebsschwelle verletzt, verschiebt den Ausfall nur nachgelagert.
• Bewahre das genaue Modell-Tag in der Konfiguration; ähnlich benannte Ollama-Tags können sich im gebackenen Kontext, im Prompt-Template oder in der Platzierung unterscheiden.