Agent Eval 技能
一个轻量级 CLI 工具，用于在可重复任务上对编码智能体进行头对头比较。每次“哪个编码智能体最好？”的比较都依赖于主观感觉——而此工具将其系统化。
何时激活
- 比较编码智能体（Claude Code、Aider、Codex 等）在你自己代码库上的表现
- 在采用新工具或模型之前衡量智能体的性能
- 当智能体更新其模型或工具时运行回归检查
- 为团队提供基于数据的智能体选型决策
安装
注意： 从仓库安装 agent-eval，安装前请先审查源码。
核心概念
YAML 任务定义
声明式定义任务。每个任务指定要做什么、涉及哪些文件以及如何判断成功：
name: add-retry-logic
description: 为 HTTP 客户端添加指数退避重试逻辑
repo: ./my-project
files:
- src/http_client.py
prompt: |
为所有 HTTP 请求添加带指数退避的重试逻辑。
最大重试 3 次。初始延迟 1 秒，最大延迟 30 秒。
judge:
- type: pytest
command: pytest tests/test_http_client.py -v
- type: grep
pattern: "exponential_backoff|retry"
files: src/http_client.py
commit: "abc1234" # 固定到特定提交以确保可重复性
Git Worktree 隔离
每个智能体运行都会获得自己独立的 git worktree——无需 Docker。这提供了可重复性隔离，确保智能体之间不会互相干扰或污染基础仓库。
收集的指标
| 指标 | 衡量内容 |
|---|---|
| 通过率 | 智能体生成的代码是否通过了评判标准？ |
| 成本 | 每个任务的 API 开销（可用时） |
| 时间 | 完成所需的挂钟时间（秒） |
| 一致性 | 多次运行中的通过率（例如 3/3 = 100%） |
工作流程
1. 定义任务
创建一个 tasks/ 目录，存放 YAML 文件，每个任务一个文件：
mkdir tasks
# 编写任务定义（参见上面的模板）
2. 运行智能体
针对你的任务执行智能体：
agent-eval run --task tasks/add-retry-logic.yaml --agent claude-code --agent aider --runs 3
每次运行：
- 从指定提交创建一个全新的 git worktree
- 将提示词传递给智能体
- 运行评判标准
- 记录通过/失败、成本和时间
3. 比较结果
生成比较报告：
agent-eval report --format table
Task: add-retry-logic (3 runs each)
┌──────────────┬───────────┬────────┬────────┬─────────────┐
│ Agent │ Pass Rate │ Cost │ Time │ Consistency │
├──────────────┼───────────┼────────┼────────┼─────────────┤
│ claude-code │ 3/3 │ $0.12 │ 45s │ 100% │
│ aider │ 2/3 │ $0.08 │ 38s │ 67% │
└──────────────┴───────────┴────────┴────────┴─────────────┘
评判类型
基于代码的（确定性）
judge:
- type: pytest
command: pytest tests/ -v
- type: command
command: npm run build
基于模式的
judge:
- type: grep
pattern: "class.*Retry"
files: src/**/*.py
基于模型的（LLM 作为评判器）
judge:
- type: llm
prompt: |
这个实现是否正确处理了指数退避？
检查：最大重试次数、递增延迟、抖动。
最佳实践
- 从 3-5 个任务开始，这些任务要代表你的实际工作负载，而非玩具示例
- 每个智能体至少运行 3 次试验，以捕获方差——智能体是非确定性的
- 在任务 YAML 中固定提交，使得结果在几天/几周内可复现
- 每个任务至少包含一个确定性评判器（测试、构建）——LLM 评判器会引入噪音
- 将成本与通过率一起跟踪——一个通过率 95% 但成本是 10 倍的智能体可能不是最佳选择
- 对你的任务定义进行版本管理——它们是测试夹具，应像代码一样对待