langchain-ai/langsmith-evaluator

LangSmith向け評価パイプライン構築スキル。評価器の作成、実行関数の定義、評価の実行の3つのコアコンポーネントをカバーします。

langsmith-evaluator とは?

このスキルは、LangSmithプラットフォーム向けの評価パイプラインを構築するためのものです。3つの主要コンポーネントをカバーしています。(1) 評価器の作成: LLM-as-Judgeやカスタムコードによる評価ロジックを記述できます。(2) 実行関数の定義: エージェントの出力や軌跡(トレース)をキャプチャする方法を提供します。(3) 評価の実行: ローカル環境でevaluate()関数を使用した実行や、LangSmith上での自動実行をサポートします。このスキルはlangsmith CLIツールを利用しており、開発者はCI/CDパイプラインへの統合や、エージェントのパフォーマンスを継続的に監視・改善するための仕組みを簡単に構築できます。

対応~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/langchain-ai/langsmith-skills/tree/main/skills/langsmith-evaluator

Installed? Explore more 生産性&コラボレーション skills: steipete/gemini, steipete/gh-issues, steipete/skill-creator · View all 6 →

お気に入りのAIに質問する

このエージェントスキルを事前に読み込んだ状態で新しいチャットを開きます。

ドキュメント

langsmith-evaluator は何をしますか?

このスキルは、LangSmith向け評価パイプラインを構築する際に呼び出します。以下の3つのコアコンポーネントをカバーしています。(1) 評価器の作成 - LLM-as-Judge、カスタムコード; (2) 実行関数の定義 - エージェントの出力と軌跡のキャプチャ方法; (3) 評価の実行 - ローカルでのevaluate()実行、またはLangSmithによる自動実行。langsmith CLIツールを使用します。

Individual skills in this repo

This repo contains 2 individual skills — each has its own dedicated page.

関連スキル