MemoryBench로 에이전트 메모리 및 RAG 시스템 벤치마킹은(는) 무엇을 하나요?
MemoryBench를 사용하여 여러 제공업체, 데이터셋, 평가 모델, 체크포인트에 걸쳐 반복 가능한 대화형 메모리 및 RAG 벤치마크를 실행하고 구조화된 보고서를 생성합니다.
필수 조건
Bun, MemoryBench 저장소, 최소 하나의 메모리/RAG 제공업체 API 키, 최소 하나의 평가 모델 API 키, 벤치마크 데이터셋
설치
기본 사용법 또는 시작하기 참고 사항:
-
🆚 다중 제공업체 비교: 동일한 벤치마크를 여러 제공업체에서 나란히 실행
-
📊 구조화된 보고서: 실행 상태, 실패 내역 및 메트릭을 분석 가능한 형식으로 내보내기
-
bun install -
상위 문서에서 발췌: https://raw.githubusercontent.com/supermemoryai/memorybench/HEAD/README.md