🤖 AI 實驗台 (ai-lab) v1.1
向量檢索 + 模型推理 + Jupyter + 自動 ML 實驗。跑模型/做 embedding/調參時用。
意圖路由表
🗂️ 向量資料庫
| 你說... | 路由到 |
|---|
| "用Chroma向量檢索" | chroma |
| "FAISS檢索" / "高效向量搜尋" | faiss |
| "Qdrant向量庫" | qdrant |
注意:pinecone 雲端付費,🔴 不用,未納入。
🧠 模型相關
| 你說... | 路由到 |
|---|
| "從HuggingFace下個模型" / "HF模型" | huggingface-hub |
| "本地跑LLM" / "llama.cpp推理" | llama-cpp |
| "結構化JSON輸出" / "LLM輸出格式化" | instructor |
注意:vllm、flash-attention、grpo-rl-training、stable-diffusion、honcho——研究生用不上,未納入。
💻 互動環境
| 你說... | 路由到 |
|---|
| "跑Python數據分析" / "Jupyter" | jupyter-live-kernel |
🔬 自動 ML 實驗(NEW v1.1)
| 你說... | 路由到 |
|---|
| "自動調參" / "自動優化模型" | aide-ml-experiment(AIDE 樹搜索模式) |
| "GPU優化" / "CUDA加速" | 吸收 optimize-for-gpu 模式 |
| "PyTorch Lightning訓練" | 吸收 pytorch-lightning 模式 |
執行規則
- 向量庫選型:本地小規模 →
chroma;高效檢索 → faiss;生產級 → qdrant
- 模型下載優先使用 HuggingFace 鏡像(中國大陸網路)
- 自動 ML 實驗:先小規模試跑,再擴展(AIDE 模式)
- 研究生實際常用:
jupyter-live-kernel > huggingface-hub > 其他