golf-testing์(๋) ๋ฌด์์ ํ๋์?
๐งช AI ์์ด์ ํธ์ LLM ํ๊ฐ์๋ฅผ ์ฌ์ฉํ์ฌ MCP ์๋ฒ๋ฅผ ํ ์คํธํ๊ณ ์์ฐ์ด ์ํธ์์ฉ ๋ฐ ์ฑ๋ฅ ํ๊ฐ์ ํจ์จ์ฑ์ ๋ณด์ฅํฉ๋๋ค.
๊ฐ์
์ด ์คํฌ์ MCP(Model Context Protocol) ์๋ฒ์ ๊ธฐ๋ฅ์ ์๋์ผ๋ก ํ ์คํธํ๊ธฐ ์ํด ์ค๊ณ๋์์ต๋๋ค. AI ์์ด์ ํธ(Claude Code, Cursor, Codex ๋ฑ)์ LLM ํ๊ฐ์๋ฅผ ํ์ฉํ์ฌ ์์ฐ์ด ๊ธฐ๋ฐ ์ํธ์์ฉ์ ์ ํ์ฑ๊ณผ ์ผ๊ด์ฑ์ ๊ฒ์ฆํฉ๋๋ค.
๊ธฐ๋ฅ
- ํ ์คํธ ์ผ์ด์ค ์คํ: ์ฌ์ ์ ์๋ ์๋๋ฆฌ์ค์ ๋ฐ๋ผ MCP ์๋ฒ์ ์๋ต์ ํ ์คํธํฉ๋๋ค.
- LLM ํ๊ฐ: GPT-4, Claude ๋ฑ์ LLM์ ํ๊ฐ์๋ก ์ฌ์ฉํ์ฌ ์๋ต ํ์ง์ ์ธก์ ํฉ๋๋ค.
- ์ฑ๋ฅ ๋ฉํธ๋ฆญ: ์๋ต ์๊ฐ, ์ ํ๋, ์ผ๊ด์ฑ ๋ฑ์ ์ถ์ ํฉ๋๋ค.
- ๋ณด๊ณ ์ ์์ฑ: ํ ์คํธ ๊ฒฐ๊ณผ๋ฅผ ์์ฝํ ๋ฆฌํฌํธ๋ฅผ Markdown ํ์์ผ๋ก ์ ๊ณตํฉ๋๋ค.
์ง์ ํ๋ซํผ
- Claude Code
- Cursor
- Codex
- ๊ธฐํ AI ์ฝ๋ฉ ์ด์์คํดํธ
์ฌ์ฉ ๋ฐฉ๋ฒ
- MCP ์๋ฒ ์ค์ ํ์ผ(
mcp.json๋๋mcp.yaml)์ด ํ๋ก์ ํธ ๋ฃจํธ์ ์๋์ง ํ์ธํฉ๋๋ค. - ๋ค์ ๋ช ๋ น์ด๋ฅผ ์คํํ์ฌ ํ ์คํธ๋ฅผ ์์ํฉ๋๋ค:
test-mcp --server <server-name> --cases ./test-cases
- ํ
์คํธ ๊ฒฐ๊ณผ๋
./reports/๋๋ ํ ๋ฆฌ์ ์ ์ฅ๋ฉ๋๋ค.
ํ๊ฒฝ ๋ณ์
| ๋ณ์๋ช | ์ค๋ช | ๊ธฐ๋ณธ๊ฐ |
|---|---|---|
MCP_SERVER | ํ ์คํธํ MCP ์๋ฒ ์ด๋ฆ | ์์ |
LLM_JUDGE | ํ๊ฐ์ ์ฌ์ฉํ LLM ๋ชจ๋ธ | gpt-4 |
REPORT_PATH | ๊ฒฐ๊ณผ ๋ณด๊ณ ์ ์ ์ฅ ๊ฒฝ๋ก | ./reports |
ํ ์คํธ ์์
# test-cases/weather.yaml
name: weather-query
description: ์ฌ์ฉ์๊ฐ ๋ ์จ๋ฅผ ๋ฌผ์ ๋ ์ฌ๋ฐ๋ฅธ ์๋ต์ ๋ฐํํ๋์ง ํ
์คํธ
prompt: "์์ธ์ ํ์ฌ ๋ ์จ๋?"
expected:
- ์๋ต์ ์จ๋ ์ ๋ณด ํฌํจ
- ์๋ต์ ๋ ์จ ์ํ(๋ง์, ํ๋ฆผ ๋ฑ) ํฌํจ
๋ผ์ด์ ์ค
MIT