Was macht eval?
Bewertet und ordnet Agentenergebnisse nach Metriken oder LLM-Bewertung für eine AgentHub-Sitzung. Verwende diese Fähigkeit, wenn der Benutzer /hub:eval ausführt oder darum bittet, abgeschlossene AgentHub-Agenten zu bewerten, zu vergleichen oder einen Gewinner auszuwählen.
Funktionsweise
Die Fähigkeit analysiert die Ausgaben der Agenten aus der aktuellen AgentHub-Sitzung und wendet entweder vordefinierte Metriken (z. B. Antwortlänge, Korrektheit) oder eine Bewertung durch ein LLM an, um eine Rangliste zu erstellen.
Verwendung
- Befehl:
/hub:eval– löst die Bewertung aller abgeschlossenen Agenten in der Sitzung aus. - Optionen: Du kannst optional angeben, welche Metrik oder welcher LLM-Richter verwendet werden soll.
Beispiel
# In der AgentHub-Sitzung:
Agent A: "Lösung A"
Agent B: "Lösung B"
# Führe aus:
/hub:eval
# Ergebnis:
1. Agent B (Punktzahl: 9/10)
2. Agent A (Punktzahl: 7/10)
Unterstützte Plattformen
- AgentHub (Standard)
Hinweise
- Stelle sicher, dass alle Agenten ihre Ausführung abgeschlossen haben, bevor du
/hub:evalaufrufst. - Die Bewertung basiert auf dem Sitzungskontext und den bereitgestellten Metriken.