Detect regressões silenciosas de agentes por diffs de saídas e rastreios de ferramentas em CI com eval-view
Fotografe o comportamento do agente, compare saídas e caminhos de chamadas de ferramentas e bloqueie lançamentos quando uma mudança de modelo ou prompt alterar sutilmente o comportamento.
Pré-requisitos
Ambiente Python, instalação do eval-view, cenários ou testes de agente repetíveis, runner de CI ou shell local, stack de agente suportada em teste
Instalação
Notas de uso básico ou primeiros passos:
-
O loop se fecha: detecção → investigação → veredito graduado → quarentena → broadcast. Você acorda, acompanha o progresso, faz triagem com drift, confirma com check --statistical, e a equipe vê o resumo antes...
-
| 📉 DRIFTING | Tendência deslizando com confiança graduada (baixa/média/alta) | Execute evalview drift |
-
| 🔎 INVESTIGATE | Camada de veredito quer replay estatístico | Execute evalview check --statistical 5 |
-
Extraído dos docs upstream: https://raw.githubusercontent.com/hidai25/eval-view/HEAD/README.md