🤖 AI 实验台 (ai-lab) v1.1
检索向量 + 推理模型 + Jupyter + ML 实验自动化。使用模型、嵌入向量、调整参数时使用。
意图路由表
🗂️ 向量数据库
| 你说... | 路由到 |
|---|
| "用Chroma做向量检索" | chroma |
| "FAISS检索" / "高效向量搜索" | faiss |
| "Qdrant向量库" | qdrant |
注意:pinecone 是云端付费服务,🔴 不使用,未纳入。
🧠 模型相关
| 你说... | 路由到 |
|---|
| "从HuggingFace下载模型" / "HF模型" | huggingface-hub |
| "本地运行LLM" / "llama.cpp推理" | llama-cpp |
| "结构化JSON输出" / "LLM输出格式化" | instructor |
注意:vllm、flash-attention、grpo-rl-training、stable-diffusion、honcho——对研究生用处不大,未纳入。
💻 交互环境
| 你说... | 路由到 |
|---|
| "运行Python数据分析" / "Jupyter" | jupyter-live-kernel |
🔬 ML 实验自动化(新增 v1.1)
| 你说... | 路由到 |
|---|
| "自动调参" / "自动优化模型" | aide-ml-experiment(AIDE 树搜索模式) |
| "GPU优化" / "CUDA加速" | 整合 optimize-for-gpu 模式 |
| "PyTorch Lightning训练" | 整合 pytorch-lightning 模式 |
执行规则
- 向量库选型:本地小规模 →
chroma;高效检索 → faiss;生产级 → qdrant
- 模型下载优先使用 HuggingFace 镜像(针对中国网络)
- ML 实验自动化:先小规模试运行,再扩展(AIDE 模式)
- 研究生实际常用:
jupyter-live-kernel > huggingface-hub > 其他