CommunitySchreiben & Editierengithub.com

bettyguo/agent_eval

Ein quelloffener Benchmark für Claude Code Skill-Bündel (.claude/skills/) und CLAUDE.md-Konfigurationen. Pass@k + Kosten + Zuverlässigkeit, inhaltsadressiertes Leaderboard, läuft auf Anthropic / OpenAI / Google.

Was ist agent_eval?

bettyguo/agent_eval ist ein quelloffener Benchmark, der speziell für die Bewertung von Claude Code Skill-Bündeln (definiert in `.claude/skills/`) und CLAUDE.md-Konfigurationen entwickelt wurde. Es ermöglicht Entwicklern, die Leistung ihrer Agenten-Setups anhand von Metriken wie Pass@k (Erfolgsquote), Kosten pro Durchlauf und Gesamtzuverlässigkeit zu messen. Das Tool erstellt ein inhaltsadressiertes Leaderboard, sodass verschiedene Konfigurationen reproduzierbar und nachvollziehbar verglichen werden können. Es unterstützt sowohl Claude-Modelle auf Anthropic als auch Modelle von OpenAI und Google, was es zu einer plattformübergreifend nützlichen Lösung für die Optimierung von KI-Agenten-Skills macht. Durch die Ausführung auf mehreren Anbietern können Nutzer die Trade-offs zwischen Kosten und Leistung für ihre spezifischen Anwendungsfälle erkunden.

Funktioniert mit✓Claude Code✓Codex CLI~Cursor
npx skills add bettyguo/agent_eval

Installed? Explore more Schreiben & Editieren skills: steipete/notion, langchain-ai/langchain, bytedance/podcast-generation · View all 6 →

In Ihrer bevorzugten KI fragen

Öffnet einen neuen Chat, in dem dieser Agent-Skill bereits geladen ist.

Dokumentation

Was macht agent_eval?

Ein quelloffener Benchmark für Claude Code Skill-Bündel (.claude/skills/) und CLAUDE.md-Konfigurationen. Pass@k + Kosten + Zuverlässigkeit, inhaltsadressiertes Leaderboard, läuft auf Anthropic / OpenAI / Google.

Verwandte Skills