Community생산성 & 협업github.com

langchain-ai/langsmith-evaluator

LangSmith 평가 파이프라인 구축 시 이 스킬을 호출하세요. 평가자 생성, 실행 함수 정의, 평가 실행 등 세 가지 핵심 구성 요소를 다룹니다.

langsmith-evaluator란 무엇인가요?

이 스킬은 LangSmith 플랫폼에서 에이전트 및 LLM 애플리케이션을 평가하기 위한 완전한 파이프라인을 구축하는 방법을 제공합니다. LLM-as-Judge(LLM을 심판으로 사용)와 사용자 정의 코드를 포함한 평가자 생성, 에이전트의 출력과 궤적(trajectory)을 캡처하는 실행 함수 정의, 그리고 `evaluate()` 함수를 사용한 로컬 평가 또는 LangSmith를 통한 자동 실행까지 세 가지 주요 영역을 다룹니다. 이 스킬은 `langsmith` CLI 도구를 활용하며, LangSmith SDK와의 통합을 통해 평가 결과를 자동으로 기록하고 비교할 수 있습니다. 개발자는 이 스킬을 통해 일관된 평가 기준을 설정하고, 에이전트 성능을 체계적으로 측정하며, 반복적인 개선 작업을 효율적으로 수행할 수 있습니다.

지원 대상~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/langchain-ai/langsmith-skills/tree/main/skills/langsmith-evaluator

Installed? Explore more 생산성 & 협업 skills: steipete/gemini, steipete/gh-issues, steipete/skill-creator · View all 6 →

즐겨 사용하는 AI에게 물어보기

이 에이전트 스킬이 미리 로드된 새 채팅을 엽니다.

문서

langsmith-evaluator은(는) 무엇을 하나요?

LangSmith 평가 파이프라인 구축 시 이 스킬을 호출하세요. 세 가지 핵심 구성 요소를 다룹니다: (1) 평가자 생성 - LLM-as-Judge, 사용자 정의 코드; (2) 실행 함수 정의 - 에이전트의 출력과 궤적을 캡처하는 방법; (3) 평가 실행 - evaluate()를 사용한 로컬 실행 또는 LangSmith를 통한 자동 실행. langsmith CLI 도구를 사용합니다.

Individual skills in this repo

This repo contains 2 individual skills — each has its own dedicated page.

관련 스킬