Communitygithub.com

évaluer-une-version-IA

Évaluez une version d'un système RAG ou d'un agent IA par rapport à une référence acceptée, diagnostiquez les régressions et produisez une preuve explicable (PASS, WARN ou BLOCK). Utilisez-le pour des traces candidates, des scénarios d'évaluation RAG, des modifications de modèle ou de prompt, des portes de release, des régressions de citation, des vérifications d'abstention et des revues qualité pré-release.

Qu'est-ce que évaluer-une-version-IA ?

Cette compétence permet à un agent IA (comme Claude Code) d'agir en tant qu'évaluateur déterministe pour un système RAG (Retrieval-Augmented Generation). En utilisant l'outil RAGOps, elle compare les réponses ou traces candidates d'une version par rapport à une référence de base acceptée, en appliquant des seuils de politique configurables. Le résultat est une preuve de release explicable (PASS, WARN ou BLOCK) basée sur des vérifications comme les citations, l'abstention et d'autres métriques matérielles. La compétence est conçue pour être utilisée en pré-release, dans des scénarios de test A/B de prompts/modèles, ou pour diagnostiquer des régressions avant déploiement. Elle insiste sur l'intégrité de l'évaluation : ne pas affaiblir les seuils, ne pas remplacer la baseline, et ne pas publier ou fusionner uniquement sur la base de sa sortie. Le workflow implique d'identifier le scénario, de lire la documentation des commandes (references/commands.md), d'inspecter les entrées pour détecter des secrets/données personnelles, d'exécuter la commande RAGOps appropriée via un script Python (python3 scripts/run_ragops.py), d'interpréter les codes de sortie (0 = PASS, 2 = BLOCK évalué, autre = erreur opérationnelle), et de produire un rapport structuré avec décision, preuves, portes échouées, limitations et prochaine action minimale.

Compatible avec~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/thangldw/ragops/tree/main/skills/evaluate-ai-release

Demander à votre IA préférée

Ouvre une nouvelle conversation avec cette compétence d'agent déjà préchargée.

Documentation

Évaluer une version IA

Utilisez RAGOps comme un évaluateur déterministe. Considérez son résultat comme une preuve de release, non comme une preuve que le système est universellement correct ou sûr.

Workflow

  1. Identifiez le scénario, les réponses ou traces candidates, la référence acceptée et les seuils de politique. N'inventez pas de pièces manquantes.
  2. Lisez references/commands.md lors du choix de la commande RAGOps ou de l'interprétation des codes de sortie.
  3. Inspectez les entrées pour détecter des secrets ou des données personnelles avant d'exécuter une évaluation. Maintenez les rapports générés privés, sauf si l'utilisateur approuve leur partage.
  4. Exécutez la commande la plus restreinte applicable via python3 scripts/run_ragops.py ... depuis le répertoire de cette compétence.
  5. Interprétez le code de sortie 0 comme PASS et le code de sortie 2 comme un BLOCK évalué, et non comme un échec d'exécution. Traitez les autres codes non nuls comme des erreurs opérationnelles.
  6. Rapportez la décision, les portes échouées, les écarts de métriques matérielles, les limitations de provenance et la plus petite action suivante.

Garde-fous

  • N'affaiblissez pas les seuils, ne remplacez pas la référence acceptée et n'omettez pas les cas en échec pour obtenir un succès.
  • Ne prétendez pas à l'exactitude sémantique lorsque seules des vérifications lexicales ou de citation ont été effectuées.
  • N'exécutez pas d'évaluation basée sur un fournisseur sauf si l'utilisateur fournit et autorise explicitement la configuration du fournisseur.
  • Ne publiez pas, ne fusionnez pas, ne taguez pas et ne déployez pas uniquement sur la base de la sortie de cette compétence.
  • Préservez les artefacts d'entrée et les paramètres de commande dans la preuve finale afin qu'un autre réviseur puisse reproduire le résultat.

Sortie

Retournez une recommandation de release concise avec : decision, evidence, failed_gates, limitations et next_action.

Skills associés