ai-junior-data_scientist์(๋) ๋ฌด์์ ํ๋์?
๐ค ๋ก์ปฌ LLM๊ณผ FastAPI๋ก ๊ตฌ๋๋๋ AI ์ฃผ๋์ด ๋ฐ์ดํฐ ์ฌ์ด์ธํฐ์คํธ ์์ด์ ํธ๋ก ํํ ํฌ ๋ฐ์ดํฐ๋ฅผ ๋ถ์ํ๊ณ EDA ๋ฐ ์ดํ ๋ชจ๋ธ๋ง์ ์ํํฉ๋๋ค.
๊ฐ์
์ด ์์ด์ ํธ๋ FastAPI์ ๋ก์ปฌ LLM(์: Ollama, Llama.cpp, LM Studio ๋ฑ)์ ์ฌ์ฉํ์ฌ ํํ ํฌ ๋ฐ์ดํฐ์ ์ ๋ํ ์์ ํ ๋ฐ์ดํฐ ๊ณผํ ์ํฌํ๋ก์ฐ๋ฅผ ์๋ํํฉ๋๋ค. ์ฌ์ฉ์๋ ๊ฐ๋จํ ์ง์๋ก EDA๋ถํฐ ์ดํ ์์ธก๊น์ง ์คํํ ์ ์์ต๋๋ค.
์ฃผ์ ๊ธฐ๋ฅ
- ํ์์ ๋ฐ์ดํฐ ๋ถ์(EDA): ๋ฐ์ดํฐ ํ๋กํ์ผ๋ง, ํต๊ณ ์์ฝ, ์๊ด๊ด๊ณ ๋งคํธ๋ฆญ์ค, ๋ถํฌ ์๊ฐํ
- ํน์ง ์์ง๋์ด๋ง: ์๋ ๊ฒฐ์ธก์น ์ฒ๋ฆฌ, ์ธ์ฝ๋ฉ, ์ค์ผ์ผ๋ง, ํ์ ๋ณ์ ์์ฑ
- ์ดํ ๋ชจ๋ธ๋ง: ๋ก์ง์คํฑ ํ๊ท, ๋๋ค ํฌ๋ ์คํธ, XGBoost ๋ฑ ๋ค์ํ ๋ถ๋ฅ ๋ชจ๋ธ ํ์ต ๋ฐ ํ์ดํผํ๋ผ๋ฏธํฐ ํ๋
- ๋ชจ๋ธ ํ๊ฐ: ์ ๋ฐ๋, ์ฌํ์จ, F1 ์ ์, ROC-AUC, ํผ๋ ํ๋ ฌ
- ์ธ์ฌ์ดํธ ๋ณด๊ณ : ์ฃผ์ ์ดํ ์์ธ, ๊ณ ์ํ๊ตฐ ์ธ๊ทธ๋จผํธ ์๋ณ, ์คํ ๊ฐ๋ฅํ ๊ถ์ฅ ์ฌํญ
์ง์ ํ๋ซํผ
- ๋ก์ปฌ LLM: Ollama, llama.cpp, LM Studio, LocalAI ๋ฑ OpenAI ํธํ API ์ ๊ณต
- ๋ฐฑ์๋: FastAPI (Python 3.9+)
- ๋ฐ์ดํฐ ํฌ๋งท: CSV, Parquet, Excel
์์ํ๊ธฐ
์ฌ์ ์๊ตฌ ์ฌํญ
- Python 3.9+
- FastAPI (
pip install fastapi uvicorn) - ๋ก์ปฌ LLM (์: Ollama๋ก
llama3๋ชจ๋ธ ๋ค์ด๋ก๋) - ํ์ ๋ผ์ด๋ธ๋ฌ๋ฆฌ:
pandas,numpy,scikit-learn,matplotlib,seaborn,joblib
์ค์น
git clone https://github.com/Maranh0/ai-junior-data_scientist.git
cd ai-junior-data_scientist
pip install -r requirements.txt
ํ๊ฒฝ ๋ณ์ ์ค์
.env ํ์ผ ์์ฑ:
LLM_API_BASE=http://localhost:11434/v1
LLM_MODEL=llama3
FASTAPI_HOST=0.0.0.0
FASTAPI_PORT=8000
์คํ
uvicorn main:app --reload
์ฌ์ฉ ์์
๊ฐ๋จํ API ํธ์ถ๋ก ์ ์ฒด ์ํฌํ๋ก์ฐ๋ฅผ ํธ๋ฆฌ๊ฑฐํฉ๋๋ค:
curl -X POST "http://localhost:8000/analyze" \
-H "Content-Type: application/json" \
-d '{
"data_path": "./data/fintech_customers.csv",
"target": "churn",
"task": "full_workflow"
}'
์๋ต์๋ EDA ์์ฝ, ํผ์ฒ ์ค์๋ ํ๋กฏ, ๋ชจ๋ธ ์ฑ๋ฅ ์งํ, ์ดํ ๊ฐ๋ฅ์ฑ์ด ๋์ ์์ 10๋ช ์ ๊ณ ๊ฐ ๋ชฉ๋ก์ด ํฌํจ๋ฉ๋๋ค.
SKILL.md์ ๋ฐ๋ฅธ ๋์ ๋ฐฉ์
- ๋ฐ์ดํฐ ๋ก๋ ๋ฐ ๊ฒ์ฆ: ์์ด์ ํธ๊ฐ ๋ฐ์ดํฐ์ ์ ๋ก๋ํ๊ณ ์คํค๋ง, ๊ฒฐ์ธก์น, ๊ธฐ์ด ํต๊ณ๋ฅผ ์ถ๋ ฅํฉ๋๋ค.
- EDA ์คํ: LLM์ด ๋ฐ์ดํฐ ํ๋กํ์ผ๋ง ๊ฒฐ๊ณผ๋ฅผ ๋ฐํ์ผ๋ก ์ ์ ํ ์๊ฐํ์ ๋ถ์ ์ฝ๋๋ฅผ ์์ฑํ๊ณ ์คํํฉ๋๋ค.
- ํน์ง ์์ง๋์ด๋ง: LLM์ด ๋ฐ์ดํฐ ํน์ฑ์ ๋ง๋ ์ ์ฒ๋ฆฌ ํ์ดํ๋ผ์ธ์ ์ค๊ณํ๊ณ ์ ์ฉํฉ๋๋ค.
- ๋ชจ๋ธ ํ์ต: ์ฌ๋ฌ ๋ถ๋ฅ ์๊ณ ๋ฆฌ์ฆ์ ์๋์ผ๋ก ์๋ํ๊ณ ์ต์ ์ ๋ชจ๋ธ์ ์ ํํฉ๋๋ค.
- ํ๊ฐ ๋ฐ ํด์: ๋ชจ๋ธ ์ฑ๋ฅ์ ํ๊ฐํ๊ณ , SHAP ๋๋ ํผ์ฒ ์ค์๋๋ฅผ ์ฌ์ฉํ์ฌ ๊ฒฐ๊ณผ๋ฅผ ํด์ํฉ๋๋ค.
- ๋ณด๊ณ ์ ์์ฑ: ๋ถ์ ๊ฒฐ๊ณผ๋ฅผ ๋งํฌ๋ค์ด ๋ฆฌํฌํธ๋ก ์ ๋ฆฌํ๊ณ API ์๋ต์ผ๋ก ๋ฐํํฉ๋๋ค.
๋ผ์ด์ ์ค
MIT
๊ธฐ์ฌ
์ด์์ PR์ ์ธ์ ๋ ํ์ํฉ๋๋ค! ๊ฐ์ ์ฌํญ์ด๋ ๋ฒ๊ทธ ์์ ์ ์ํด ์์ ๋กญ๊ฒ ๊ธฐ์ฌํด ์ฃผ์ธ์.