Communityコーディング&開発github.com

confident-ai/deepeval

LLMアプリケーションのための単体テストフレームワーク。開発者にエージェントワークフローの回帰パターンをテストする自動化ツールを提供します。

deepeval とは?

このスキルは、LLMアプリケーション向けの単体テストフレームワークであるDeepEvalを提供します。開発者は、エージェントワークフローにおける回帰パターンを自動的にテストし、アプリケーションの品質を維持できます。主な機能には、コンテキストの正確性や出力品質の評価、データセットに基づくテストケースの生成が含まれます。このフレームワークは、Claude Code、Cursor、CodexなどのAIエージェントプラットフォームで使用でき、LLMアプリケーションの継続的なテストと改善を可能にします。

対応~Claude Code~Codex CLI~Cursor
npx skills add confident-ai/deepeval

Installed? Explore more コーディング&開発 skills: steipete/bluebubbles, steipete/eightctl, steipete/blucli · View all 6 →

お気に入りのAIに質問する

このエージェントスキルを事前に読み込んだ状態で新しいチャットを開きます。

ドキュメント

deepeval は何をしますか?

LLMアプリケーションのための単体テストフレームワーク。開発者にエージェントワークフローの回帰パターンをテストする自動化ツールを提供します。

概要

DeepEvalは、LLMベースのアプリケーションのためのオープンソースのテストフレームワークです。これは、言語モデルの出力品質、コンテキストの正確性、およびワークフローのパフォーマンスを評価するための包括的なツールスイートを提供します。このフレームワークにより、開発者はテストケースを定義し、その結果を自動的に評価し、開発サイクル内で回帰を検出することができます。

主な機能

  • 自動評価: 事前定義されたメトリクスを使用してLLM出力を自動的に評価します。
  • 回帰テスト: 時間の経過に伴うモデルのパフォーマンス変化を検出するためのテストスイートを作成します。
  • コンテキスト検証: LLM応答内のコンテキストの正確性を検証します。
  • ワークフローテスト: エージェントワークフロー全体をテストして、エンドツーエンドのパフォーマンスを確保します。

インストール

pip install deepeval

クイックスタート

基本的なテストを作成するには:

from deepeval import assert_test
from deepeval.test_case import LLMTestCase
from deepeval.metrics import ContextualPrecisionMetric

test_case = LLMTestCase(
    input="ユーザー入力をここに記述",
    actual_output="生成された応答",
    expected_output="期待される応答",
    context="コンテキスト情報"
)

metric = ContextualPrecisionMetric()
assert_test(test_case, [metric])

サポートされるプラットフォーム

このスキルは以下のAIエージェントプラットフォームと互換性があります:

  • Claude Code
  • Cursor
  • Codex
  • その他のAIコーディングアシスタント

詳細情報

詳細については、公式ドキュメントを参照してください。

関連スキル