Was macht Agent-Speicher und RAG-Systeme mit MemoryBench benchmarken?
Nutzen Sie MemoryBench, um wiederholbare Benchmarks für konversationelles Gedächtnis und RAG über Anbieter, Datensätze, Bewertungsmodelle, Prüfpunkte und strukturierte Berichte hinweg auszuführen.
Voraussetzungen
Bun, MemoryBench-Repository, mindestens ein API-Schlüssel für einen Speicher-/RAG-Anbieter, mindestens ein API-Schlüssel für ein Bewertungsmodell, Benchmark-Datensätze
Installation
Grundlegende Nutzung oder Erste-Schritte-Notizen:
-
🆚 Multi-Anbieter-Vergleich: Führen Sie denselben Benchmark über mehrere Anbieter hinweg nebeneinander aus.
-
📊 Strukturierte Berichte: Exportieren Sie den Ausführungsstatus, Fehler und Metriken zur Analyse.
-
bun install -
Aus den übergeordneten Dokumenten extrahiert: https://raw.githubusercontent.com/supermemoryai/memorybench/HEAD/README.md